a16z 觀察 GPU 租金:高於六年折舊線,能說明 AI 算力需求嗎?

a16z 本週圖表指出,多款 GPU 租金高於按六年直線折舊推算的參考值。這提供了觀察 AI 算力供需的切面,但參考線的差距並非投資報酬率,也不是所有雲端客戶的實際成交價。

Share
a16z 觀察 GPU 租金官方發布畫面
a16z 觀察 GPU 租金官方發布畫面。圖片來源:a16z。

a16z 本週圖表指出,多款 GPU 租金高於按六年直線折舊推算的參考值。

這提供了觀察 AI 算力供需的切面,但參考線的差距並非投資報酬率,也不是所有雲端客戶的實際成交價。

GPU 租金圖表比較的是什麼?

a16z 的圖表比較租金指標與假設六年使用壽命、按時間平均減值的參考線。這條假設線用來比較,實際租金是否像老設備逐年減值那樣下降。

在所列指標中,H200 高於參考線約 143%,B200 約 111%,A100 約 9%。這些百分比的分母是圖表中的折舊參考值,並非顯卡買價,也不是今年以來的租金漲幅。

報告同時指出,部分較舊設備在更長期間曾低於參考線。因此不能只挑現在高出的比例,就宣稱持有整個期間都得到相同報酬。

a16z 觀察 GPU 租金官方發布畫面
a16z 觀察 GPU 租金官方發布畫面。圖片來源:a16z。

模型使用量與設備需求如何連結?

模型每產生一段答案,都需要運算資源。報告將 GPU 租金與 OpenRouter 上觀察到的模型文字單位用量放在一起,討論需求擴張可能帶來的影響。

不過 OpenRouter 只是市場中的一部分,而租金指標也未必反映每個地區、每種合約的價格。這些資料適合拿來觀察方向,還不足以直接算出整個產業的支出。

對使用者來說,這提醒我們硬體更新與服務成本的關係並非單向。新晶片推出後,舊設備仍可能因為需求、可用性與適合的工作負載,繼續被租用。

讀取算力價格還需要哪些條件?

如果你要比較雲端算力成本,應直接取得相同地區、相同時段與合約條件的報價。按小時計費、長約承諾與不同記憶體配置,不能只看同一個 GPU 名稱就放在一起比。

還要把實際使用效率算進去。某台設備每小時便宜,如果大部分時間在等資料,完成一項工作的總成本可能仍較高。

因此這次圖表適合用來追蹤市場背景,實際採購則應回到每個完成任務的成本。把租金、速度與成功率放在同一張紀錄表裡,才比較接近工作上的決策。

GPU 租金 常見問題

GPU 租金高出折舊線 143%,就是賺 143% 嗎?

這是租金指標相對假設參考線的差距,沒有扣除設備、電力與營運成本,不能當成投資報酬。

所有雲端供應商都同樣漲價嗎?

圖表呈現特定資料來源的指標,無法代替每家供應商、地區與合約的實際報價。

用任務成本核對算力市場指標

用指標觀察算力需求,再用自己的報價與任務紀錄計算成本。這樣既能看見市場變化,也不會把一條折舊參考線誤當成採購答案。

延伸閱讀:NVIDIA RTX Spark 是什麼?ProArt P16 用 128GB 統一記憶體,把大模型算力搬回本機

延伸閱讀:Strata 教學:12GB 顯示卡跑大模型,先看 RAM、量化與完整任務

資料來源