Joules-to-GDP 用電力衡量 AI 工作價值,模型、任務與 GPU 數量如何取捨?

Joules-to-GDP 十一月更新論文,作者公開分享程式與資料,以專業任務價值、節省時間與端到端能源比較 AI 系統。本文解讀每焦耳回報、小模型與多卡取捨,以及專家參考成果如何改變結果。

Share
Joules to GDP 論文研究流程圖,並列專家與 AI 代理、研究範圍及模型比較
Joules to GDP 論文圖一概述研究流程,圖上數值須連同論文任務與估價假設解讀。 圖片來源:官方原文。

Joules-to-GDP 問的是,同一份能源能換來多少完成工作的價值。研究在二〇二六年十一月二日更新第二版論文,作者十一月四日分享論文、程式與資料,延續十月首版的研究。

一項工作有較高估計價值,仍可能消耗更多電。因此,每次任務與每單位能源,會讓同一組模型出現不同名次。

團隊用專業工作基準、專家參考成果與測得能耗,建立兩個指標。它們把完成品質、執行成本和能源放在同一套框架,讓設備與模型選擇能一起討論。

這裡的價值由基準任務估算,並不直接等於國家實際增加多少產出。研究名稱中的 GDP,主要連到職業與經濟權重的評估方式。

規劃自建服務的團隊,可以借用這種方法檢查自己的任務與設備。我會先保留品質要求與完整能耗,再比較每次工作的回報,避免只用模型大小判斷效率。

先弄清價值與能耗怎麼計算,後面的模型與晶片比較才有共同起點。

Joules-to-GDP 如何把工作成果換成指標?

框架先判定輸出是否達到參考品質,再估算價值與節省時間。主研究使用 GDPval 的二百二十項工作,涵蓋四十四種職業,每種職業有五項任務。

任務包含專業要求、來源檔案、評分規則與交付物,成果可能是文件、試算表、程式或媒體。這讓研究能觀察模型完成工作的能力,而不只比較單題回答。

每項工作都有專家參考成果與完成時間。研究使用職業薪資中位數乘上專家工時,估計該成果的價值,再判斷 AI 產物是否和參考成果打平或更好。

因此,薪資與專家時間是估值的起點。它們讓不同工作能放到共同單位,但仍屬研究假設,企業實際收費、需求與交付責任可能不同。

第一個指標是每單位能源的淨價值,也就是成果估值減去 AI 執行成本,再除以能源。研究稱為 NVJ,呈現時使用每百萬焦耳多少美元。

第二個指標是每單位能源節省多少專家時間,稱為 TSJ。它比較專家原本工時與 AI 完成時間,再除以能源,讓讀者能從時間與金額兩個角度看同一項工作。

焦耳是能源單位,一百萬焦耳約等於零點二七八度電。用固定物理單位,有助於把不同設備與服務價格變動分開觀察,避免費率更新就改變全部效率比較。

只有品質達到參考標準的成果,才計入價值與節省時間。失敗與逾時仍會消耗能源並產生成本,因此成功比例會直接影響整體回報。

這項設計會懲罰無效嘗試。模型產出很多內容卻沒有完成交付,支出仍留在分母與成本裡,較接近部署者真正需要支付的資源。

估值規則確立以後,還需要完整記錄完成工作的能源。否則同樣的品質,可能因測量邊界不同而得到難以比較的結果。

Joules to GDP 論文研究流程圖,並列專家與 AI 代理、研究範圍及模型比較
Joules to GDP 論文圖一概述研究流程,圖上數值須連同論文任務與估價假設解讀。 圖片來源:官方原文。

本事件官方或論文原作者示範影片。 來源:官方原始貼文。

模型推論之外,能源邊界包含哪些環節?

工具呼叫、等待與重試都會影響端到端能源。這項研究把測量範圍放在整次任務的執行窗口,包含推論、工具使用與等待過程。

團隊使用裝置讀值記錄圖形處理器、中央處理器與記憶體等元件能源。它們共同支撐代理工作,因此只看產生文字的晶片耗能,可能漏掉其他處理成本。

實際服務也常同時處理多個請求。研究將並行請求分批執行,再依各請求仍在運行的時間分配共同能源,讓等待較久的工作承擔相應部分。

這需要明確分配規則,因為同一台機器的耗電不能完整算給每一個使用者。若重複分攤,總量就會失真,反過來漏掉閒置部分,也會低估成本。

執行成本則依記錄的設備配置與公開價格估算,包含相關運算資源,適用時另加入儲存與傳輸費用。它描述當次執行所用資源的價格,和能源指標各有用途。

不過,這個窗口沒有涵蓋所有生命週期。模型先前訓練、設備製造與整個社會因採用而改變的活動,都需要另一組邊界與資料,才能進一步討論。

因此,研究適合比較在明確配置下完成相同工作的效率。若要估算組織年度用電,還需要加入實際流量、待機、維運與服務架構,才能從單次任務延伸。

對自建團隊,最容易開始的方式,是先選固定任務與設備,記錄從收到要求到停止工作的完整時間。當中即使失敗,也保留讀值與原因,才能算出平均完成成本。

把邊界固定以後,才看得出不同任務的價值與效率為何分開。這也是研究最先呈現的排名變化。

高價值任務為何未必最省電?

每次任務的價值與每單位能源回報,回答的是兩個問題。工程設計的成果估值可能較高,但完成它也可能需要較多計算或較長操作。

研究以 GLM 5.2 配合 OpenHands 工具框架,觀察不同職業工作。在這組設定下,電腦輔助設計類工作的每次淨價值,約比網站開發類高一成。

然而,加入能源分母後,網站開發類每單位能源的淨價值約高百分之二十七。這表示任務價值較高,仍需要足夠產出支撐其額外能源。

不同指標也會偏向不同工作。某些職業的成功成果能節省較多專家時間,但薪資與能源結構不同,節省時間排名就可能和金額回報排名分開。

因此,部署者先要決定目前的限制。若機房電力固定,可能重視同一份能源能完成多少有效工作;若某項高價值工作必須完成,則還要看候選是否達到所需品質。

這兩種需求可以同時存在。團隊可能把大量簡單工作交給較省資源的配置,再把較難且價值較高的任務留給另一套系統,但是否值得分流仍要用自己的資料測試。

研究也提醒,職業分類內的任務數有限。每種職業只有五項主基準工作,因此同一個部門若有不同題型分布,實際排序可能變動。

所以採用時可以沿用計算方法,改用自己常見的交付物與品質要求。這樣比較得到的效率,才會對應組織真正需要完成的工作組合。

同一個取捨也出現在模型大小與工作品質之間。看完任務差異,接著就能理解較小模型與更多硬體如何改變回報。

較小模型與更多 GPU 如何改變結果?

模型選擇和硬體配置都能改變價值與能源的比例。研究在相同任務與評估框架下比較五個本機模型,讓輸出與端到端能耗能一起量測。

在這組測試中,GLM 5.2 的每次淨價值最高,Gemma 4 31B 則取得約百分之五十六的淨價值,使用約百分之二十三的能源。

因此,後者的每單位能源淨價值約為前者二點五倍,節省時間回報約二點八倍。這支持較小模型在某些能源限制下值得考慮,單次可完成的工作價值仍有差異。

模型比較也有硬體條件。GLM 使用八張 H200,另外四個模型使用八張 H100,因為前者的該精度設定無法放入受測 H100 節點,因此不能把差異完全歸給模型架構。

硬體數量實驗則固定 Qwen3.6-27B。從一張增加到八張 H100,淨價值相近,完整時間減少約百分之二十二,能源卻提高到三點二四倍。

這組結果顯示,在該工作量與配置下,多卡增加的資源沒有換到同比例的任務回報。它仍保留模型、並行與硬體條件,其他服務需要另外測量。

對工程團隊而言,重點是找出哪一項限制正在阻擋交付。如果單次延遲已經符合需求,繼續增加設備可能只讓資源使用變多;若服務大量並行請求,則還需要測整體吞吐。

因此,設備測試最好同時保留完成品質、時間、能源與並行量。只比較每秒輸出多少文字,可能看不到工具等待與失敗重試造成的整體差異。

然而,比較參考成果變了,同一套配置的估計回報也會改變。這讓專家基準成為最後一項重要條件。

專家參考與實際營運,還有哪些距離?

專家完成時間與成果品質決定估值起點。主分析使用未借助 AI 的專家成果,另外再比較專家使用 AI 完成的版本,觀察自動化能增加多少價值。

使用 AI 的專家,可能更快完成,也可能提出更高品質成果。當這份成果成為參考,代理既要面對更高門檻,可取代的原本人類時間也變少。

研究中,保持 AI 執行、成本與能源不變,只更換專家參考成果和工時,GLM 5.2 的 NVJ 下降約七成,TSJ 下降約六成五。

這表示回報估計不只取決於模型,也取決於組織現在怎麼工作。若員工已經熟練使用 AI,導入全自動代理應該和這種現況比較,才能看見新增的效益。

論文也提供 GDPWorks 延伸資料,包含八十三項任務、三十六種額外職業。這和主分析的二百二十項任務屬不同資料範圍,閱讀結果時需要分開。

程式與資料公開後,其他團隊有機會檢查估值、能源分配與任務組合。這能幫助研究者知道某個排名是否穩定,或依賴少數特殊題目。

論文主分析以每個設定的一次任務執行計算,另收集四次獨立執行,檢查重複嘗試對結果的影響。因此,採用者也可以保留重跑分布,觀察一次成功是否穩定。

如果服務允許失敗後重試,完成率可能提高,但總時間與能源也會增加。把每次嘗試連回同一項交付,就能比較為了多完成一份工作,額外付出了多少資源,這會直接影響實際效率判斷。

對實際營運,我會把框架用在範圍清楚、成果可驗收的任務,先建立自己的基準。把專家目前工時與實際交付要求留下來,模型比較才有可用的價值分母。

建議先選一項高頻工作,固定參考成果與能源邊界,再比較兩種配置。當自己的資料足夠完整,才適合把結論擴大到整個服務。

Joules-to-GDP 常見問題

這能直接算出 AI 增加多少 GDP 嗎?

研究用職業薪資、專家工時與經濟權重估算基準任務回報。國家產出還涉及需求、組織改變與其他資源,因此需要更多資料才能推估實際總體影響。

多買 GPU 就一定比較耗能嗎?

本案的一到八張比較固定模型與特定工作條件。不同硬體、並行量與服務目標可能有不同結果,應保留相同品質要求後實際量測。

想重用框架應從哪裡開始?

先定義成果合格條件,再記錄人類目前完成時間、AI 整次執行成本與能源。失敗也一併留下來,才能比較完成同一份有效工作的總回報。

從任務而非單一模型名次出發,更容易找出自己的資源取捨。可以先完成一輪小範圍比較,再用相同方法追蹤後續版本,並保留每輪紀錄。

延伸閱讀:GDPx AI 代理評測:最高12%,長任務為什麼比會答題更難?

延伸閱讀:AI 資料中心缺的不只晶片:a16z 圖表揭示美國電力設備產能落差

原始資料來源