Amazon推出下一代AI晶片：AI訓練效能提升四倍

Amazon Web Services (AWS) 在拉斯維加斯re:Invent會議上宣布了一系列與人工智慧相關的重大新聞，展示了該公司對於人工智慧平台的長期目標。首先AWS 揭幕了其最新一代的 AI 晶片，包括專門用於模型訓練的 Trainium2 和更通用的 Graviton4。Trainium2 被設計用來提供比前代產品高達四倍的性能和兩倍的能效。Graviton4 基於 Arm 架構，比 Intel 或 AMD 晶片耗能更低，能在使用訓練好的 AI 模型時提供高達30%的性能提升。此外，Graviton4 預計將在未來幾個月內廣泛發布，目前已在預覽階段提供​​​​。

儘管 Amazon 推出了自家晶片，但該公司仍與第三方供應商如 NVIDIA 保持緊密合作關係。Amazon 將為企業客戶提供雲端訪問 NVIDIA 最新的 H200 AI GPU，並為 NVIDIA 的研發團隊運營超過16,000個 Nvidia GH200 Grace Hopper Superchips，這與其主要 AI 競爭對手 Microsoft 採取的策略相似​​。

此外，Amazon 也宣布了一款新的以商業為重點的 AI 聊天機器人「Q」，該機器人被描述為一種新型的生成式 AI 驅動的個人助理，目的在幫助簡化工作項目和客戶服務任務。Q 能夠根據企業需求量身定制，提供常見問題的相關回答，甚至能根據用戶在公司中的角色定制互動方式。Q 目前處於預覽階段，不久後將進行更廣泛的發布，每位用戶的成本預計在每月20至30美元之間​​。

這些發布顯示 Amazon 在人工智慧技術領域的大膽投入，不僅專注於提升 AI 模型訓練的效率和效能，還致力於透過 AI 強化其雲計算服務，以及推動 AI 技術在商業應用領域的創新。