NVIDIA 與微軟推進 RTX AI PC 開發進展

NVIDIA TensorRT for RTX現可通過 Windows ML 自動調用加速 AI 應用，同時，全新 NVIDIA NIM 微服務與 AI Blueprints 幫助開發者構建工作流程，Project G-Assist 外掛程式幫助愛好者打造專屬的助理工作流程。

從數位人到寫作助理、智慧代理與創意工具，生成式 AI 正在將 PC 軟體轉變為突破性體驗。

NVIDIA RTX AI PC 和正在驅動這一變革，相關技術讓用戶更輕鬆地探索生成式 AI，並在Windows 11 上釋放更強效能。

NVIDIA TensorRT 已為 RTX AI PC 重新設計，將業界領先的 TensorRT 效能與即時編譯(Just-In-Time)的本地引擎建置模式結合，封裝體積縮小至原來的八分之一，使AI功能能夠快速部署至超過1億台RTX AI PC 上。

Microsoft Build 微軟開發者大會上公布，TensorRT for RTX 得到 Windows ML 原生支持。這一全新推理框架為應用開發者提供廣泛的硬體相容性與業界領先的效能表現。

NVIDIA 發布的 SDK 讓為開發者帶來了廣泛的選澤，從 NVIDIA DLSS 到如 NVIDIA RTX Video 等多媒體增強功能，使開發者更輕鬆地整合 AI 功能。本月來自 Autodesk、Blibli、Chaos、LM Studio 和 Topaz Labs 的多款主流軟體應用將發布更新，解鎖 RTX AI 功能與加速效果。

AI 愛好者與開發者可通過 NVIDIA NIM 輕鬆上手 AI 開發。這是一套預先包裝且最佳化的 AI 模型，能夠在 AnythingLLM、Microsoft VS Code 和 ComfyUI 等主流應用程式中運行。本週推出的 FLUX.1-schnell 圖像生成模型將會成為一項NIM微服務，而熱門的 FLUX.1-dev NIM 也已更新，並支援更多 RTX GPU。

對於希望以簡單、零程式碼入門AI開發的用戶，Project G-Assist 是 NVIDIA App 中的 RTX PC AI 助理，可以使用自然語言 AI 建置外掛程式來控制PC應用程式和周邊。目前已有多個全新的社群共享外掛程式，包括 Google Gemini 網頁搜索、Spotify、Twitch、IFTTT 和 SignalRGB 等。

TensorRT for RTX 為 AI 推論加速

當今的 AI PC 軟體堆疊要求開發者做出取捨——選擇硬體支援廣泛但效能較低的框架，或最佳化效能但只支援特定硬體。

全新的 Windows ML 推理框架為解決這些難題設計。Windows ML 是透過 ONNX Runtime 驅動，可無縫連接由各硬體廠商提供和維護的最佳化 AI 執行層。

在 GeForce RTX GPU 上，Windows ML 會自動調用 TensorRT for RTX。這是一款專為高效能和快速部署推論庫。與 DirectML 相比，TensorRT在 PC 端 AI 工作負載中可帶來超過 50%的效能提升。