Mercury 3 擴散語言模型發布：每秒逾千 Token，速度、價格與百萬上下文怎麼看？

等 AI 回答時，速度會直接影響我們願不願意繼續使用。Mercury 3 的發布受到關注，就是因為它希望在文字品質之外，把等待時間也往下壓。

Inception 在 2026 年 10 月 19 日發布新模型，官方公布每秒 1,068 個 Token 的生成速度。Token 是模型處理文字的小片段，可能是一段字、詞或符號，不能直接當成同樣數量的中文字。

這個模型採用擴散方式生成文字，會反覆修整內容。它提供另一條提高生成速度的路徑，但官方宣稱的輸出速度，仍需要和回答品質、開始回應的時間一起評估。

對會反覆呼叫模型的服務來說，每一步省下一點等待，就可能影響整個工作完成時間。因此，即時教學、搜尋與工具代理，都是值得觀察的用途。

不過模型產生文字只是完整服務的一段。若後面還要查資料、操作網頁或生成聲音，實際使用者能省下多少時間，仍要量整條流程，不能只把每秒輸出相除。

要判斷這次更新的意義，先理解擴散模型如何處理文字，會比直接比較速度標題更有幫助。

Mercury 3 是什麼？擴散文字生成為何可能更快？

Mercury 3 是以擴散方式生成文字的語言模型。一般常見的逐詞生成，會根據前面已經產生的內容，繼續預測後面的文字；擴散方法則透過多次修整，讓內容逐漸成形。

可以把兩種方式想成逐字往後寫，以及先形成草稿再反覆修改。這個比喻只用來理解工作方向，實際運算方式仍依模型設計，不能把它想成真的有一位編輯在讀稿。

擴散方式提供平行處理文字的空間，因此有機會縮短生成所需時間。但它仍要在多輪修整中取得品質與速度的平衡，所以採用不同架構，不代表每一類問題都自動更快或更準。

依 Inception 官方發布文章，團隊把新模型定位在需要快速反應的應用，並公布與其他偏速度取向模型的基準比較。這些資料反映官方測試結果，不能視為本文的獨立實測。

速度提高，為何不一定犧牲思考品質？

模型可以透過不同方式使用運算資源，所以速度與品質不一定只剩下二選一。但模型能否在某一種問題上兼顧兩者，仍要由同條件測試回答，不能只憑架構名稱推論。

對讀者而言，最有用的比較是把同一份任務交給不同模型，並用相同標準判斷是否完成。因為一個快速但需要重做的答案，未必比稍慢卻能直接使用的結果省時間。

這也讓評估重點從「會不會取代所有模型」，轉成「哪一段工作值得改用它」。先找到明確的工作負載，才容易看出速度提升是否有實際意義。

官方 1,068 Token 每秒怎麼讀？輸出速度與首字延遲不同

每秒輸出速度，描述開始產生文字後的產量。首字延遲則是送出問題到看到第一段文字的等待時間，兩者衡量的階段不同，所以不能互相代替。

例如一段很短的回答，使用者可能更在意多久開始看到內容。長篇報告則會更在意整份文件何時完成，因此相同的生成速度，對不同使用方式帶來的價值也不同。

官方把新模型與 GPT-6 Luna、Claude Haiku 5.5 等速度取向模型比較，並主張在多項基準上有競爭力。但模型版本、題目、推理設定與測試設備，都可能影響結果，必須保留這些條件。

為何短題與長題應該分開測？

短題的總時間容易受到連線、排隊與初始化影響。當回答只有幾句話，即使每秒輸出快很多，其他等待沒有減少，使用者感受到的差距也可能有限。

長題則比較能看出連續生成速度，但也更容易出現後半段品質問題。因此測長文件時，除了完成秒數，還應查看結論是否一致、引文是否對得上，以及中間是否漏掉必要條件。

多人同時使用時，還要觀察尖峰等待。單一請求很快，與尖峰時段每個人都能穩定取得回答，是不同的服務能力，所以正式導入前不能只留一個最佳紀錄。

最清楚的紀錄方式，是同時列出開始回應時間、整份完成時間與任務是否通過。這樣的表格會比單一最高速度更接近產品體驗。

如果需要進一步認識推論測量，可以從延遲與多人負載的基本概念開始，再回頭看模型廠商的效能圖。

延伸閱讀：NVIDIA AIPerf 是什麼？看懂 AI 推論延遲、吞吐量與多人使用效能

多步代理為何特別在意單次等待？

假設一項任務需要多次模型判斷，前一步結束才能決定後一步，即使每次只少等一點，累積起來也可能有差。但這項推導成立的前提，是工具回合沒有變多，完成率也沒有下降。

因此，測試時應同時記錄模型呼叫次數。若某個模型單次很快，卻更常走錯頁面、需要回頭，整份工作的時間仍可能增加，這能解釋為何單一速度數字不夠。

對互動產品而言，還可以把長任務拆成使用者看得到的進度。當系統正在查資料，清楚說明目前進度，與加快最後文字生成一樣，都會影響等待體驗。

百萬 Token 上下文可以做什麼？容量大仍要把資料整理清楚

上下文是模型一次工作時能參考的文字與相關資料。官方把 Mercury 3 的容量標示為百萬 Token，讓較長文件、多份材料與多輪工作有更多可放入的空間。

但能放入多少內容，與模型能否準確使用其中每一項細節，是不同問題。把所有文件一次塞進去，雖然省下人工挑選，也可能讓重要版本、互相矛盾的敘述與無關內容混在一起。

例如整理產品政策時，同時放進新舊兩版，模型需要知道哪一份仍有效。若沒有日期或版本標記，再大的容量也不能自動消除文件本身的歧義。

長上下文適合直接取代資料檢索嗎？

要看工作方式。檢索是先從大量資料中找出與問題有關的部分，再交給模型；長上下文則提供更多直接放入材料的空間，兩者可以配合使用。

如果每次都問同一套不太變動的文件，預先整理與快取可能有幫助。若資料一直更新，則需要控制來源與生效時間，否則模型可能引用到看似完整、實際已過期的內容。

成本也要一起算。容量提高後，產品更容易放入大量文字，但每次輸入更多內容，仍可能增加費用與讀取時間，所以不應把上限當成每次都要用滿的目標。

實際測試可以故意把關鍵條件放在文件不同位置，再看回答能否找到正確依據。因為使用者要的是準確完成工作，容量的價值應該由這些題目驗證。

Mercury 3 價格怎麼算？首發優惠與長期預算要分開

官方發布時列出的標準價格，是每百萬輸入 Token 0.20 美元、每百萬輸出 Token 0.70 美元。首發期間公布五折，對應 0.10 與 0.35 美元，優惠是否持續應以使用時公告為準。

輸入是交給模型閱讀的內容，輸出則是模型產生的內容。兩者費率不同，所以比較價格時，應先知道自己的任務通常讀多少、寫多少，而不能只挑較便宜的一欄。

假設某批工作合計輸入一百萬 Token、輸出十萬 Token，以標準價格計算，模型文字費用約為 0.27 美元。這是費率示例，尚未包含其他工具、平台或服務費。

價格示例也可以反過來幫助控制輸出。若產品只需要一個標籤或幾個欄位，就應直接要求必要格式，避免模型寫出很長的解釋，讓使用者與系統都多花時間處理。

但縮短輸出仍要保留工作必要的依據。例如搜尋摘要若需要來源，不能為了省 Token 刪掉引用，否則成本表看起來改善，讀者卻失去回查資料的能力。

為何每次任務費用，比單價更值得比較？

因為不同模型完成同一工作，可能使用不同長度的提示、推理與回答。如果某個模型需要反覆補問，較低的單價也可能被額外回合抵銷。

相反地，若模型能在同一套品質標準下更快完成，而且重試沒有增加，就可能同時省下文字費用與使用者時間。因此價格評估應把完成率與重試次數放進來。

官方也提到快取輸入折扣，但是否符合快取條件，要依實際平台規則確認。重複使用大量相同前綴的工作，與每次輸入全新文件的工作，成本結構可能不同。

若準備長期營運，建議用標準價格做基本預算，再把短期優惠列成額外情境。這樣比較不會在促銷結束後，才發現原本的營運估算無法維持。

哪些應用值得先試？把加速放在會重複等待的地方

模型速度最容易產生價值的地方，是流程中需要反覆等待文字判斷的環節。例如網頁代理每一步都要決定下一個操作，單次等待減少，就有機會讓整個任務提早完成。

但網頁本身載入、外部服務回應與工具執行，也會占時間。因此團隊應先量測各步驟，再判斷模型是否主要瓶頸，否則換模型後可能只改善總時間的一小部分。

即時教學也值得試驗，因為學生卡住時，提示越快出現，越容易維持解題節奏。但教育產品還要核對答案與解釋，不能為了快而讓錯誤提示更快送到學生面前。

搜尋與客服應該怎麼測？

搜尋服務可以選同一批問題，保留找到的資料，再比較模型形成答案的時間與引用正確性。這樣才能分辨改善來自搜尋品質，還是模型本身生成更快。

客服則應特別測無法回答與需要轉交人工的情況。因為服務品質包含知道何時停止猜測，若模型很快給出不符合政策的承諾，速度反而會放大後續處理成本。

對語音服務而言，文字模型之後通常還有聲音生成與播放。即使文字很快完成，語音端若一次等整句才開始，使用者也可能感受不到同樣幅度的改善。

因此，適合的試點應該是目標清楚、資料有標準答案，而且能記錄整體時間的工作。先證明一段流程變好，再擴大使用，會比只根據官方速度更容易做出可靠決策。

Inception 的語音專用產品另有延遲設計，讀者可以把它與一般文字模型分開看，避免把不同產品的數字混用。

延伸閱讀：Mercury Voice 主打 320 毫秒開始回答：語音 AI 變快，不能只看模型那一段

Mercury 3 常見問題 FAQ

Mercury 3 和 Mercury Voice 一樣嗎？

前者是本次發布的文字語言模型，後者是針對語音低延遲需求調整的產品。評估時應對照各自文件，避免把不同服務的測試結果混在一起。

每秒千個 Token 等於千個中文字嗎？

不同語言與內容會被切成不同數量的片段，所以兩者不能直接畫上等號。測試中文產品時，應使用實際中文題目量測。

現在可以從哪裡使用？

官方表示已透過自家平台，以及 OpenRouter、Baseten、Vercel 等管道提供。各平台的型號、費率與資料設定，仍應在使用前核對。

適合速度敏感的工作，先用完成率決定是否換模型

需要快速回饋、反覆工具判斷，並能量測工作成果的團隊，適合把新模型放進既有題組比較。若工作主要時間花在資料取得或人工覆核，則要先確認換模型能改善多少。

這次更新的價值，是讓快速文字生成有更多可選路徑。是否適合自己的服務，應由同一批任務的品質、等待與總費用共同決定。歡迎免費訂閱 AI 郵報，追蹤後續實測與產品更新。

資料來源：Inception 官方發布文章、團隊研究者發布貼文。