Modal 沙箱按實際資源計費:AI 程式代理等待時,為何仍有最低費用?
Modal 沙箱按秒計算實際資源,仍保留最低申請量。解析平均與尖峰用量、實體核心口徑、共享容量及記憶體中斷,說明如何以真實任務比較費用與穩定性。
AI 程式代理執行十分鐘,不代表電腦也忙了十分鐘。Modal 在 11 月 16 日於 X 再次說明沙箱資源計費,指出等待模型回覆的空檔,常讓預先租好的運算容量閒置。
沙箱是讓代理執行程式的隔離環境。安裝套件、跑測試與編譯需要短暫的高用量,但模型思考時,環境可能只需要少量處理器與記憶體。
Modal 11 月 12 日的官方文章提出按秒計算實際資源的方式,並保留最低申請量。因此它能降低閒置成本,卻不代表等待期間完全免費。
資源暫時增加所用的容量來自共用機器,這也帶來可用量的差別。當同機工作一起繁忙,超出保證量的處理器可能變慢,記憶體也有被回收的風險。
任務用量忽高忽低、又能處理中斷的團隊,適合先拿真實工作量估算。需要每次固定效能或完全不能重試的工作,則應先設定保證資源與上限。
要比較這種方案是否划算,得先把最低申請量、實際用量與突增上限分開。
Modal 沙箱的最低申請量如何影響費用?
每秒帳單至少按申請量計算,實際用量超過時再依用量付費。Modal 官方文章把這稱為依使用中的資源計費,重點是計費數量隨工作起伏,而非整段期間都按尖峰容量計算。
最低申請量是平台承諾保留給工作的資源。官方預設為零點一二五個處理器核心與一百二十八 MiB 記憶體,MiB 是記憶體容量單位,和採十進位的 MB 計算方式不同。
當代理等待模型回答,資源用量即使很低,也仍按這個最低量付費。因為環境還在等待並保有工作狀態,使用者不應把「依用量」理解成每一段空檔都沒有成本。
反過來說,團隊若把最低申請量設得很高,就需要為這份保證付費。它可能改善可用資源的確定性,也會減少低用量期間的節費空間,因此設定要對應工作需求。
申請量與上限不是同一個設定
上限管的是工作最多能拿多少資源,最低申請量管的是保證多少。兩者可以分開設定,所以團隊不必為了防止工作失控,就把每秒保證容量也拉到尖峰。
官方的預設允許處理器用量在申請量之外,再暫時增加最多十六個核心,記憶體則沒有預設上限。這提供彈性,但如果工作可能持續增加記憶體,仍需要自行設定可接受的邊界。
例如代理因為程式錯誤,不斷讀入大型檔案,上限可以避免資源一直擴張。不過上限太低也可能讓合法工作中止,所以應先量到真實尖峰,而不是只依平均值決定。
官方表示,在其觀察的典型沙箱裡,超過一半的存活時間,用量不到尖峰處理器的百分之六。這描述 Modal 平台觀察到的工作型態,不是每個代理都會出現的固定比例。
這個統計解釋了方案要處理的問題,也提醒團隊先查自己的用量曲線。如果任務大部分時間在密集運算,平均和尖峰相差很小,便不能直接套用等待型工作的節費想像。
最低量看清楚後,平均用量才是估價的基礎。只拿過去租用機器的規格來套費率,會忽略新方案與預留容量方案在計費數量上的差別。

如何比較平均用量與預留容量?
比較時應把同一段工作時間、處理器口徑與記憶體單位對齊。官方特別說明,Modal 的處理器按實體核心計價,並以一個實體核心約當兩個虛擬核心解釋,不能只看兩邊都寫「核心」就直接相除。
預留容量的估價方式,是先選一台足以承受尖峰的機器,再按整段使用時間付費。依實際用量的方式,則要把每秒資源數量累積起來,因此平均用量較能接近帳單的基礎。
但平均也要考慮最低申請量。假設一段工作前半很忙、後半完全閒置,後半仍會以申請量計算。單純用整段原始平均值乘單價,可能低估實際付費數量。
公式的概念是,處理器費用對應每秒較高的「申請量或用量」,記憶體亦然,再乘對應費率累加。團隊可以先用自己保存的資源紀錄估算,之後再和實際帳單核對。
官方示例的節費幅度能直接套用嗎?
官方頁面提供不同工作負載的試算,其中一個預設案例顯示比固定容量省百分之五十八。但頁面也說明,這些是示意工作負載,不是每位客戶的正式執行紀錄。
因此,這個數字適合用來理解計算方式,不適合拿來承諾公司一定省相同比例。若團隊的任務一直滿載,或最低申請量本來就很高,差距可能和示例明顯不同。
比較還要保留相同的完成標準。把任務的執行時間拉長,可能讓單秒成本下降,總成本卻沒有跟著減少。應同時記錄任務結果、總時間與資源費用,才能回答是否划算。
費用算低還不夠,工作能否承受共用資源的波動也要一起看。因為超出保證量的容量,和一開始就保留下來的資源,有不同的可用條件。
延伸閱讀:Modal Spindle 開源:Tinker 腳本接上自有訓練服務,按 GPU 時間計價適合誰?
突增資源與保證效能差在哪裡?
超出申請量的資源依賴共享容量,並不是隨時保證的固定配額。官方的原理是,多個客戶的工作通常不會同時遇到尖峰,所以可以利用機器上暫時空出的資源。
這種安排符合代理工作一忙一閒的節奏。模型思考時,沙箱可以把容量讓給別人,跑測試時再取用較多資源,讓機器不必按每個工作的最高需求總和準備容量。
當同一台機器上的工作碰巧一起繁忙,處理器和記憶體的後果不同。處理器競爭可能讓超出申請量的部分變慢,而記憶體不足時,超出申請量的沙箱可能因記憶體不足而被移出。
官方說明,在申請量內的沙箱不會因這種資源競爭被移出。但這不等於所有其他故障都不會發生,也不表示只要設定了最低記憶體,就無需設計工作復原。
哪些工作應設定固定資源?
需要公平比較的評測,可能希望每次都有相同資源。若一輪測試剛好拿到較多閒置容量,另一輪拿得較少,速度差就不能全部解讀成模型或程式改善。
官方因此建議,對需要一致執行環境的評測與訓練工作,可以把申請量設成等於上限。這會犧牲一些彈性,但比較條件更容易重現。
對記憶體低於八 GiB 的突增沙箱,官方另提出每分鐘記憶體不足移出率低於零點零零零一百分比的服務目標。這是有範圍的官方目標,不能擴大到更大沙箱或當成零中斷保證。
能否接受這類波動,取決於任務中斷後會損失什麼。這個限制讓保存狀態和重試方式,直接影響代理服務是否能穩定完成工作。
中斷後如何保留代理的工作?
快照與外部儲存可以保留檔案,但不等於外部操作會自動撤回。官方列出結束快照、檔案系統快照與獨立儲存空間,供工作停止後保留或找回需要的資料。
快照可以理解成某個時間點的檔案狀態。例如代理已完成程式修改,卻在測試途中停止,保存修改內容能減少重新開始的工作,但新的執行環境仍要確認自己接續的是哪個版本。
另一種情況是,代理在停止前已經呼叫外部服務建立任務。即使沙箱檔案回到舊版本,外部任務也未必消失,所以重試前要先查它是否已存在,避免再建立一次。
這是本文依代理工作提出的恢復原則,並非 Modal 宣稱快照能處理所有外部副作用。檔案保存與工作去重需要一起設計,才能把重試變成可靠的接續。
不同停止原因應如何處理?
官方提供的終止原因資訊,可以協助區分資源不足與其他停止情況。如果是工作超過自己設定的記憶體上限,一直用相同條件重試,往往只會再次失敗。
若是共享容量暫時不足,則可比較提高保證量、調整上限或從快照重試的成本。這時要保留失敗原因,才能知道成本增加來自任務需要更多資源,還是環境波動。
保存資料也不代表所有過程都值得永久留下。包含來源檔案、提示和工具輸出的工作目錄,可能帶有企業資料,應依實際內容設定存取與保留方式,避免復原能力同時增加不必要的資料暴露。
復原條件確定之後,團隊才有辦法設定合適的資源邊界。只追求最小的申請量,卻把每次中斷都交給人手處理,未必能降低整體工作成本。
用可重跑的工作量驗算,再決定資源設定
先量測一段完整任務的平均與尖峰,比照官方範例更有用。可以從現有的一項程式修復工作開始,保留相同輸入、測試與完成條件,觀察代理等待和電腦忙碌各占多少時間。
這個基準應包含安裝與建置,不能只挑模型等待的空檔。若依賴下載特別久,總時間差可能來自網路,若測試負載增加,則可能是程式本身需要較多運算。
接著比較相同任務在不同保證量下的結果。除了帳單,也要看完成時間、失敗次數與人工介入。這些是團隊實際要承擔的成本,並非單一資源費率能完整回答。
官方 11 月 12 日文章、11 月 16 日 X 說明介紹的,是既有沙箱預設突增與依用量計費的運作方式。它們沒有宣布所有客戶在該日一律切換成新的價格制度,因此導入時仍應核對自己的實際方案。
對用量變化大、能保存狀態並安全重試的工作,這種方式值得納入比較。需要穩定效能或中斷代價高的任務,則應先確定保證資源,再討論可以省下多少閒置費用。
延伸閱讀:Pydantic AI 2.68 統一人工問答與核准:代理暫停後,怎麼接回同一項工具工作?
Modal 沙箱計費常見問題
代理等待模型時,沙箱完全不計費嗎?
仍有最低申請量費用。實際用量低於申請量時,以申請量計算,超過後才依較高的用量計算,所以等待時間並非自動免費。
資源上限設很高,就能保證一直拿到嗎?
上限允許工作最多用多少,申請量才是保證基礎。超出申請量的容量來自共用機器,繁忙時可能變慢或遇到記憶體不足移出。
官方試算省百分之五十八,是所有工作的結果嗎?
那是頁面示例條件下的計算。自己的節費幅度取決於用量曲線、保證量與相對方案,還要加上重試和維護的成本。
可以直接把雲端虛擬核心單價拿來比嗎?
要先對齊實體核心與虛擬核心的口徑,再比較時間與用量。名稱相似,不代表兩邊每個計價單位代表相同資源。
團隊該從哪裡開始測?
先選一個可重跑的任務,保存用量、結果與中斷原因,再和實際帳單對照。保留同一任務的用量與結果,才有下一輪比較的基準。