Google TPU 將進 Oracle Cloud：2027 年跨雲部署，訓練與 AI 推論有何差別？

Google TPU 預計將透過 Oracle Cloud Infrastructure 提供，讓使用 Oracle 雲端的企業未來有機會選擇不同的 AI 運算架構。

大型 AI 模型需要大量運算，但不同工作對硬體的要求並不一樣。訓練模型通常需要長時間處理大量資料，提供模型回答的推論服務則可能更在意延遲、同時使用人數和成本。

Oracle 與 Google 在 2026 年 10 月 27 日宣布這項合作，預計 2027 日曆年開始提供，並在多年期間逐步擴展。這是未來計畫，不代表 OCI 客戶目前已經能立即租用 TPU。

Google TPU 是為機器學習設計的處理器。Oracle 表示，OCI 將提供部署所需的電力、散熱和資料中心網路，讓這項硬體進入其雲端運算選項。

公司也提到 TPU 8t 針對訓練、TPU 8i 針對推論。不過，公告沒有公開所有地區、價格或完整部署規格，也沒有提供 OCI 上可獨立核對的工作負載實測。

對企業而言，這次合作值得關注的不是單看晶片名稱，而是現有模型、資料與軟體能否在新環境順利運作，以及轉換後的效能和總成本。

Oracle 與 Google 的 TPU 合作公布了什麼？

兩家公司宣布，Google 的 Tensor Processing Unit，也就是 TPU，計畫透過 Oracle Cloud Infrastructure 提供。TPU 是 Google 設計、針對機器學習運算的加速器。

依Oracle 官方公告，這將是 Google TPU 首次在 Google 以外的超大規模雲端平台提供。這是官方對合作定位的描述，不能延伸成所有 Google 技術首次離開 Google 環境。

公告說明，OCI 提供電力、散熱及資料中心網路，支援 TPU 在其基礎設施部署。企業未來可以在同一個雲端服務組合中評估更多運算架構。

時程方面，官方寫明 2027 日曆年開始提供，之後依需求在多年期間擴展。沒有公布確切上線月份、所有可用區域或每種配置的開放順序。

因此，有意採用的客戶現在可以開始評估，但不應把這則消息當成已開放購買。正式方案、合約及技術支援仍需等 Oracle 後續文件。

Google TPU 8t 與 8i 分別做什麼？

Oracle 公告提到 Google 第八代 TPU 有兩種針對不同工作設計的架構：8t 聚焦訓練，8i 聚焦推論。這個區分有助於理解需求，但不代表每個任務都只適合單一硬體。

訓練是讓模型從大量資料調整參數的過程。研究團隊可能需要長時間執行大規模運算，並在多個處理器之間交換資料。硬體之間的連線、記憶體和軟體配置都會影響整體效率。

推論則是已訓練模型接收輸入並產生結果的過程。例如聊天服務、文件摘要或 AI 代理查詢，都可能使用推論。不同應用在乎的指標可能是回應速度、同時處理量或每次使用費。

Oracle 表示，TPU 可用於大型模型訓練、後訓練及推論，包括處理長上下文與多步驟代理工作。這些是官方描述的用途，實際支援哪些模型與設定仍要等 OCI 文件。

官方的近三倍數字該怎麼讀？

公告稱 TPU 8t 每個 pod 的運算效能相較前一代接近三倍。Pod 可理解成由多個處理器組成、共同執行工作的系統單位。

這是官方提供的特定代際硬體比較，其範圍限於每個 pod 的運算效能，不能當成所有模型在 OCI 上的實測速度。模型、軟體、資料處理和通訊方式都可能影響結果。

公司也提到縮短模型開發週期的目標。讀者應把這當作官方對硬體用途的描述，等待實際條件、測試方法與可重現的結果，才能判斷自己的專案能改善多少。

為什麼跨雲部署不只是換一顆晶片？

當運算資源進入另一個雲端環境，企業還要處理模型程式、資料位置、帳戶權限和監控方式。晶片能在某平台提供，不代表既有程式自動完全相容。

例如團隊原本用某套框架訓練模型，部署到 TPU 時需要確認該框架、版本和模型運算是否受到支援。若程式包含特定硬體的優化，也可能需要調整。

資料位置同樣會影響遷移。如果訓練資料位於另一個雲端或地區，轉移時間和傳輸費用應納入規劃。還要確認資料是否允許跨境，以及複製後如何控管存取和刪除。

這些問題不代表 TPU 無法使用，而是說企業應先建立完整測試。只有把運算、資料和維運放在同一張清單，才能看出切換後是否真的符合需求。

OCI 提供基礎設施，責任如何分工？

公告列出 Oracle 提供電力、散熱與網路的角色。對客戶而言，還要在正式服務文件中確認硬體配置、支援窗口、故障處理和服務等級由誰負責。

大型訓練工作可能連續執行很長時間。若中途中斷，是否能從檢查點恢復、資料是否完整，以及恢復後是否產生額外費用，都需要依實際產品設定驗證。

由於本次公告沒有完整列出上述細節，現在不能承諾特定恢復時間或可用率。比較不同平台時，應要求供應商提供具體的服務條款。

TPU、GPU 與其他加速器怎麼比較？

比較運算架構時，最有用的起點是工作負載。相同晶片在不同模型、輸入長度和軟體設定下，可能呈現不同速度與資源使用量。

如果目標是訓練，應記錄完成固定訓練步數所需時間、模型品質是否達標，以及資料準備和故障恢復所需的工作。只看單個硬體規格，不能代表整個訓練流程。

如果目標是推論，則可比較第一段回應的等待時間、完整答案的時間、同時處理的請求數和每次使用費。速度快的設定若需要更多記憶體或較高費用，也要一起計算。

軟體生態也是成本的一部分。工程師是否熟悉工具、現有程式需要改多少、供應商是否提供支援，會影響導入時間。這些因素可能比紙面效能更直接影響專案時程。

公告沒有提供 OCI 上 TPU 與特定 GPU 的相同條件實測，因此本文不推定哪一方一定更快或更便宜。實際比較應在服務開放後，以自己的模型與資料進行。

延伸閱讀：Maia 300 AI 晶片解析：微軟押注 2027 年推論部署，每瓦效率代表什麼

訓練專案要檢查哪些相容性？

訓練模型不只是在硬體上執行一段程式。專案通常包含資料讀取、模型運算、參數更新、定期保存及結果評估。任何一個環節不相容，都可能讓晶片的理論效能無法轉化為完成工作的速度。

團隊可以先檢查目前使用的訓練框架和套件版本，再確認正式服務公布後支援哪些版本。若專案依賴特定程式庫或自訂運算，也要列出需要重新測試的部分。

資料讀取速度同樣重要。若處理器正在等待資料，增加運算能力未必讓訓練同比例加快。測試時應記錄資料準備、讀取及模型運算各自花費的時間，找出真正限制進度的環節。

當訓練需要多個處理器共同工作時，參數和中間結果必須交換。每個工作使用多少資源、如何分配以及通訊效率，會影響能否有效利用更大規模的配置。公告對相關架構提出定位，但沒有保證所有模型都以相同效率擴展。

模型品質也要一起檢查。若不同環境使用不同精度、批次大小或訓練設定，即使完成速度較快，結果也可能不同。公平比較應保留設定與資料版本，並以相同驗收指標確認品質。

最後是檢查點與復原。長任務通常會定期保存進度，讓中斷後不必完全重來。企業需要測試保存格式、儲存位置和重新啟動流程是否適用新的環境，而不是等正式訓練失敗才確認。

推論服務要如何衡量實際體驗？

推論服務的使用情境可能從少量互動對話，到大量文件批次處理。前者可能重視使用者看到第一段回答的速度，後者則可能重視整批文件何時完成。兩種需求不應只用同一個最高速度數字判斷。

如果許多使用者同時發出請求，系統可能排隊。測試時應觀察一般情況和繁忙時段的等待時間，並記錄同時請求數。單一請求的最佳成績，不代表尖峰期間每個人都會得到相同體驗。

輸入與輸出長度也會改變結果。處理簡短問題和長文件摘要，模型需要讀取及生成的資料量不同。企業應以自己預期的使用比例建立測試，而不是用一種短題目代表全部需求。

對會呼叫外部工具的 AI 代理，完整任務時間還包含資料庫、搜尋服務或人工核准。若大部分時間花在其他系統，即使模型推論加快，使用者看到的改善也可能有限。把每一步分開量測，才能找到最值得優化的地方。

成本比較則應同時考慮用量和品質。如果不同設定降低了費用，卻使格式錯誤增加或需要更多人工修正，節省的雲端帳單可能被其他工作抵消。對企業而言，完成一項可用工作的成本通常比單一硬體價格更有意義。

Oracle 尚未公布完整價格及 OCI 實測規格，所以以上是企業可以預先設計的驗收項目，不是對這項未上市服務的效能結論。等文件公開後，還要確認限制、計價與服務等級。

規劃訓練與推論時，團隊也應分別列出所需容量的時間。訓練可能集中在特定數週，而線上推論需要持續回應使用者；若未來產品提供不同的預約或用量方案，兩者適合的合約條件可能不同。公告尚未說明這些採購選項，因此目前只能把需求記錄下來，等正式條款公布後再比較。

企業現在可以準備哪些資料？

第一步是盤點現有工作。列出訓練與推論使用的模型、框架版本、資料量及硬體需求，再區分哪些是長時間批次工作，哪些需要即時回應。

第二步是保存現有基準。記錄完成任務所需時間、成本、錯誤率和模型品質，並註明測試時的資料、硬體和使用人數。沒有這份基準，未來即使新服務上線，也很難判斷改善來自哪裡。

第三步是確認資料治理。檢查資料能否放在預計使用的地區，誰可以存取，以及日誌和備份保留多久。若需要從其他環境複製資料，還要計算傳輸與清理工作。

第四步是準備小範圍試點。選擇一個可重複、結果可以檢查的任務，等服務開放後再以相近條件比較。若模型品質不一致，應先確認版本和設定，再解讀速度差異。

第五步是保留回退方式。若新環境的支援、價格或實際表現不符合預期，團隊仍需要能回到原有流程。這對有交付期限的產品尤其重要。

這些準備不需要假設新服務一定如期提供。它們也能幫助團隊更清楚理解現有系統，並在正式規格公布後做出有根據的選擇。

常見問題

Google TPU 現在已經可以在 OCI 使用嗎？

Oracle 表示計畫在 2027 日曆年提供，並在多年期間擴展。具體日期和地區應以後續產品資訊為準。

TPU 8t 和 TPU 8i 有什麼差別？

官方將 8t 定位為訓練架構，8i 則針對推論。實際可用配置及支援的工作負載仍需查看正式文件。

每個 OCI 工作負載都會快近三倍嗎？

不能這樣推論。公告的近三倍是 TPU 8t 每 pod 相較前代的官方運算效能描述，不是每個任務在 OCI 的實測加速。

Oracle 已公布台灣價格和服務地區嗎？

本次公告沒有列出完整地區與價格。台灣企業應等待正式方案，並核對資料所在地及合約條件。

結語：等部署規格公布，再用實際工作負載比較

Google TPU 進入 OCI 的計畫，為企業未來選擇 AI 運算架構增加一條可能路徑。2027 年的時程與多年擴展仍屬官方計畫，價格及配置尚未完整公開。

現在先建立訓練或推論基準，整理資料與軟體需求。等服務開放後，再以相同任務比較速度、品質、支援與總成本，才能判斷這條部署路徑是否適合。

延伸閱讀：AI 資料中心缺的不只晶片：a16z 圖表揭示美國電力設備產能落差

資料來源

• Oracle 官方新聞稿：Oracle Brings Google TPUs to Oracle Cloud Infrastructure
• Oracle Cloud 官方 X 貼文