Nvidia tilt generatieve AI naar het maximum op RTX-pc's

Met de integratie van TensorRT voor RTX en Windows ML revolutioneert NVIDIA het AI-ecosysteem op Windows 11 met versnelde prestaties, vooraf gebouwde modellen, no-code tools en ondersteuning voor ontwikkelaars. Hierdoor wordt de implementatie van generatieve AI op meer dan 100 miljoen RTX-pc's vereenvoudigd.

Generatieve AI herdefinieert de pc-software-ervaring en introduceert mogelijkheden variërend van intelligente assistenten tot het creëren van content en interactie via digitale avatars. Centraal in deze transformatie staan ​​pc's met NVIDIA RTX GPU's, die zijn ontworpen om hoge prestaties en eenvoudigere toegang tot AI-technologieën te leveren op Windows 11. Op Microsoft Build onthulde NVIDIA een nieuwe versie van TensorRT voor RTX, een geoptimaliseerde bibliotheek die just-in-time-uitvoering van AI-modellen rechtstreeks op het apparaat mogelijk maakt, waardoor de pakketgrootte aanzienlijk wordt verkleind en de prestaties worden verbeterd. Met deze release, die standaard is geïntegreerd met Windows ML, kunnen ontwikkelaars AI-toepassingen flexibeler implementeren met uitgebreide hardwarecompatibiliteit. Hierbij wordt gebruikgemaakt van de ONNX Runtime-infrastructuur om de uitvoering op de meest geschikte componenten, of dit nu GPU, CPU of NPU is, automatisch te optimaliseren.

Het TensorRT-platform voor RTX levert tot 50% snellere prestaties dan DirectML bij AI-taken, waardoor dynamische modeloptimalisatie mogelijk is op basis van de RTX-GPU van de gebruiker en continue updates mogelijk zijn zonder dat bestanden in applicaties hoeven te worden opgenomen. NVIDIA heeft zijn software-ecosysteem bovendien uitgebreid met een reeks speciale SDK's die geavanceerde mogelijkheden bieden op het gebied van rendering, multimedia en generatieve AI. Applicaties die deze technologieën onlangs hebben overgenomen of bijgewerkt, zijn onder andere Autodesk VRED, Chaos Enscape, LM Studio, Topaz Labs en Bilibili. Ze werken allemaal aan het verbeteren van de grafische prestaties of audiovisuele kwaliteit via GPU-versnelling en bedrijfseigen hulpmiddelen zoals DLSS, CUDA en RTX Video.

Om de acceptatie van AI zelfs voor de meest onervaren gebruikers eenvoudiger te maken, heeft NVIDIA NIM-microservices geïntroduceerd: containerpakketten met AI-modellen die al zijn geoptimaliseerd voor RTX GPU's. Deze sjablonen zijn beschikbaar voor directe integratie in tools zoals Microsoft Visual Studio Code, ComfyUI en AnythingLLM. Een voorbeeld hiervan is het nieuwe FLUX.1-snelle model voor het genereren van afbeeldingen, dat is ontworpen voor hoge prestaties en is geïmplementeerd als een NIM-microservice tijdens Computex. De compatibiliteit is ook uitgebreid naar de GeForce RTX 50- en 40-serie, terwijl de uitvoering op Blackwell GPU's meer dan verdubbeld is vergeleken met traditionele methoden, dankzij het gecombineerde gebruik van het FP4-formaat en RTX-specifieke optimalisaties.

Ter ondersteuning van een snelle ontwikkeling biedt NVIDIA ook zogenaamde ‘AI Blueprints’ aan: open-source demonstratieprojecten die kant-en-klare AI-workflows demonstreren. Een van deze systemen is het 3D-scènegestuurde beeldgeneratiesysteem dat bijzonder nuttig is voor het regelen van de compositie en hoek van visuele output. Een ander onderdeel van het initiatief betreft Project G-Assist, de AI-assistent die is geïntegreerd in de NVIDIA-app en is ontworpen om de interactie met het systeem door middel van spraak- en tekstopdrachten te vereenvoudigen. Met G-Assist kunt u niet alleen uw RTX-systeem beheren, maar ook aangepaste plug-ins maken om randapparatuur en applicaties te bedienen. De ontwikkelomgeving, die ook toegankelijk is in no-code-modus via een builder op basis van ChatGPT, maakt het mogelijk om snel AI-extensies te maken, zoals die voor Spotify, Discord, Twitch of IFTTT, die openbaar beschikbaar zijn op GitHub. Ten slotte kan G-Assist binnenkort worden geïntegreerd in Langflow, een platform voor het bouwen van low-code AI-agenten, waarmee de mogelijkheden voor AI-aanpassing op de pc verder worden uitgebreid.