AMD Helios 是什麼？對抗 NVIDIA 的 AI 機櫃級系統，為何企業更在意整櫃而非單張 GPU
AMD 推出 Helios AI 機櫃級系統，預計 2026 年底出貨，挑戰 NVIDIA 的資料中心方案。本文解釋 rack-scale、客戶布局與 AI 算力需求。
AMD 正用 Helios 挑戰 NVIDIA 在資料中心 AI 的優勢。這不是一張新的顯示卡，而是一套把多個處理器、網路與電力系統整合在同一個機櫃的 rack-scale 系統。
AMD Helios 是什麼？
rack-scale 是什麼？
Rack-scale 可以翻成機櫃級系統。它把多張 GPU、CPU、高速互連、記憶體與散熱放進一個整體，讓資料中心可以把整櫃當成訓練或執行大型 AI 模型的單位。
這種設計比單買 GPU 更複雜，但能減少部署與互連調校工作。對 AI 實驗室來說，當模型需要數千或更多處理器時，整體網路與供電往往和單張晶片一樣重要。
AMD 想靠什麼競爭？
AMD 執行長 Lisa Su 表示，Helios 將在 2026 年稍晚出貨，並已吸引 Microsoft、OpenAI、Meta、Oracle 與 Anthropic 等客戶規劃部署。AMD 公布的效能數字仍屬供應商資料，實際結果需要以不同模型、功耗與網路配置下的工作負載測試判斷。
AMD 同時公布 Venice-X 資料中心 CPU，預計 2027 年推出。這表示競爭不只是 GPU，而是從 CPU、GPU、網路到軟體的一整套平台。
為什麼 AI Agent 讓需求變大？
一般聊天可能只需要一次模型回應；AI Agent 則會拆解任務、呼叫工具、讀取資料，再反覆檢查結果。每一步都會增加計算量，因此企業開始需要更大規模、可持續運作的基礎設施。
AMD 預估 2030 年 AI 加速器市場可能達到約 1.4 兆美元。這是公司對市場的看法，不是保證，但反映晶片商相信 AI 工作負載仍會成長。
企業怎麼判斷方案？
不要只看峰值算力。應比較每次推理成本、軟體相容性、供電與散熱需求、維修週期，以及是否能與現有資料中心整合。若模型需要大量客製化，軟體生態可能比硬體規格更關鍵。
圖片來源：官方頁面。
AI 機櫃級系統如何與 NVIDIA 競爭？
Helios 是參考設計，不是買來即插即用的產品
AMD 官方產品頁明確說明，Helios Rackscale 是提供給 OEM 與 ODM 夥伴的 reference design，也就是讓系統廠商依開放規格打造自有品牌機櫃，而不是 AMD 直接販售的單一整機。
官方規格包括 72 顆 MI455X GPU、31 TB HBM4 記憶體，並以 UALink、OCP Open Rack Wide 與 Ultra Ethernet Consortium 等開放標準連接。這些數字代表架構潛力，不等於每個客戶最後部署的配置或實際效能。
延伸資料：AMD Helios 官方產品頁、AMD Helios 媒體資料
為什麼「整櫃」比單張 GPU 更適合 Agent？
AI Agent 的工作不是一次矩陣運算，而是反覆讀取上下文、呼叫工具、等待資料，再把結果交給下一個步驟。當多個 Agent 同時運作，瓶頸可能從 GPU 計算轉到記憶體容量、GPU 之間的互連與網路延遲。
Helios 把 GPU、CPU、網路與軟體放進同一個架構，目的就是讓系統廠商以整體方式處理這些瓶頸。這也是 AMD 強調 rack-scale 的原因：客戶買的不是「更快的一張卡」，而是可擴展的資料中心節點。
開放標準的好處與代價
AMD 使用 OCP Open Rack Wide、UALink 與 Ultra Ethernet Consortium 等開放標準，理論上能讓 OEM、網路設備商與軟體供應商加入。對大型企業來說，開放架構有機會降低被單一供應商綁死的風險。
但開放不等於簡單。不同廠商的韌體、驅動、網路設定與維修流程仍需要整合。企業若沒有足夠的資料中心工程能力，採用參考設計可能比購買成熟整機更複雜。
企業應該比較哪 6 個指標？
不要只比較 FP4 或 FP8 峰值。還要看：模型載入時間、每次推理成本、記憶體容量、跨 GPU 通訊、機櫃功耗與冷卻需求，以及故障時能否維修單一模組。對 Agent 工作負載，尾端延遲與長時間穩定度也要納入測試。
如果客戶需要訓練大型模型，互連頻寬可能是第一優先。若主要做推理，成本與彈性更重要。若是主權 AI 或內部資料，供應鏈與軟體可控性可能比理論峰值更關鍵。
圖片來源：官方頁面。
企業採購 Helios 前要比較什麼？
AMD 能否真正撼動 NVIDIA？
Helios 讓 AMD 有機會從 GPU 供應商升級成完整基礎設施方案，但客戶仍會比較 ROCm 生態、既有 CUDA 程式、人才與維運工具。短期內，AMD 更可能先從願意採用開放架構的大型雲端與 AI 實驗室切入，而不是一次取代所有 NVIDIA 部署。
實際建議：一般公司會怎麼受到影響？
多數企業不會直接購買一個 Helios 機櫃，而是透過雲端服務使用這些基礎設施。AMD、NVIDIA 與其他供應商競爭，長期可能增加雲端業者的選擇，但價格仍會包含電力、網路、軟體與維運，不會只因硬體競爭就立即下降。
正在規劃內部 AI 平台的團隊，應讓應用透過標準 API（讓程式連接模型服務的介面）、容器與模型服務層連接，避免未來更換 GPU 或雲端供應商時必須重寫全部程式。
一個具體使用情境：客服 Agent 的尖峰流量
客服 Agent 在平時可能只需要幾個 GPU，但促銷活動時會突然增加大量請求。機櫃級系統的價值不只在最高算力，也在於能否維持記憶體、網路與延遲的穩定。若系統只在基準測試中很快，尖峰時卻頻繁排隊，實際服務仍會失敗。
企業在評估 Helios 或其他方案時，應用自己的對話長度、工具呼叫與同時請求量做壓力測試。這比直接套用晶片商的峰值數字，更能預測使用者真正感受到的速度與成本。
延伸閱讀：DeepSeek 挑戰 NVIDIA？華為晶片與 CUDA 護城河解析
結論：AI 基礎設施競爭已經從晶片進入整櫃
AMD Helios 重要的地方，是把競爭拉到 GPU、CPU、網路、記憶體與軟體的整體架構。它不會立刻取代 NVIDIA，但可能讓雲端與大型 AI 實驗室有更多選擇。一般企業則應先做好軟體抽象化，讓未來更換硬體時不必重新打造整個產品。
常見問題
Helios 是一張 AMD 顯示卡嗎？
不是。它是整合多種處理器與資料中心元件的機櫃級 AI 系統。
Helios 何時出貨？
AMD 表示預計 2026 年稍晚開始出貨，實際時間依客戶部署而定。
