Nova 2.5 Sonic 正式開放:語音 AI 從流暢對話走向完成任務,還差哪些環節?
AWS 正式開放 Nova 2.5 Sonic,強化語音代理的推理、指令遵循與工具使用。本文深入分析多步客服、對話中斷、Strands Bidi 的連線續接、監測與部署條件,說明企業如何衡量語音 AI 的實際任務成果。
語音 AI 最容易讓人驚豔的時刻,是它接話很快、聲音自然,甚至知道何時停下來聽你說。但客服電話真正需要解決的問題,往往發生在這之後:它有沒有查到正確訂單、理解退貨條件,最後把事情辦好?聲音越像真人,使用者反而越可能把口頭答應當成已完成的承諾。
AWS 在二〇二六年十月五日宣佈 Amazon Nova 2.5 Sonic 正式開放,重點放在推理、指令遵循與工具呼叫準確度。官方也宣稱延遲降低,對話會更即時。這些是供應商對新版的描述,目前不能直接換算成所有企業客服的成功率提升,但方向很清楚:競爭開始從說得漂亮延伸到事情做得正確。
本文的判斷是,這次更新值得需要即時語音服務的團隊評估,尤其是查詢與辦理動作交錯的流程。實際收益仍取決於資料連接、權限設計、對話續接與錯誤處理。要理解它能幫上什麼忙,先從一通有具體目的的電話看起,再看如何留下可驗證的完成紀錄。
從回答退貨問題,到真的辦好一筆退貨
Nova 2.5 Sonic 是 speech-to-speech 模型,也就是直接處理語音輸入、產生語音輸出的模型。對使用者而言,它提供的是連續的口說互動。對開發者而言,重點是語音理解與生成放在同一套模型能力中。這不表示訂單資料、身分驗證或付款系統會自動出現,它們仍由應用程式提供。
AWS 的發布案例是客服先查訂單、檢查退貨資格,再啟動退貨。這三步彼此相依:找錯訂單會使後面判斷失去意義,資格通過也不代表建立退貨申請一定成功。因此,模型的工具呼叫能力,是把語言理解接到外部系統的能力。工具則是程式預先開放的查詢或執行功能。
假設使用者說要退掉上週買的耳機,途中又補充只退其中一副,代理必須更新目標品項。查詢工具提供真實的訂單狀態,政策工具或業務邏輯決定資格,執行工具回傳申請結果。這是用來說明設計的假設情境,並非本文實測新版產品,但它指出一個很容易忽略的差別。
「可以幫你退貨」與「已建立退貨申請」是兩種承諾。應用應要求代理在工具成功後才宣告完成,並提供申請編號或可追蹤狀態。若資料服務失敗,就說明暫時無法完成,保留已確認的資訊。這樣即使聲音很自然,使用者仍能分辨建議、準備執行與實際完成。
多步指令也需要處理相互衝突的要求。例如先說更換商品,後來改成退款,可能使已準備的動作失效。新版改善指令遵循的官方說法,應轉化成團隊自己的測試問題:代理是否尊重最後確認的需求、是否取消過時動作,以及是否在不可逆的步驟前再次確認。
對話自然,取決於它知道什麼時候聽
語音服務的難題不只有辨認文字。人會停頓、改口、插話,也會在等待查詢時繼續補充資訊。若系統把每次短暫安靜都當成說完,對話就容易被切碎。若一直等使用者完全沉默,又會顯得遲鈍。Nova 既有的可控制輪替能力,就是讓應用調整何時把發言權交回對方。
Strands Bidi Agents 同期進入正式開放階段,提供建立雙向即時對話代理的程式框架。雙向的意思是輸入與輸出可以持續交換,使用者能在代理說話時打斷它。對客服而言,能打斷不只是便利功能,它讓使用者有機會修正錯誤訂單、錯誤地址或不符合需求的處理方向。
但音訊中斷不等於業務動作取消。使用者喊停時,代理的語音可能已停止,外部系統卻仍在執行請求。應用需要分清楚停止播音、停止推理與取消工具工作。如果操作已完成,就應回報真實結果,再提供後續處理。不能僅因對話轉向,就假裝前一個動作從未發生。
官方框架的音訊輸入輸出工具包含迴音消除、雜訊抑制與自動增益控制。這些處理能幫助麥克風收到比較可用的訊號,卻不能保證所有環境都清楚。開放辦公室、車內與手機擴音都有不同干擾,測試應包含真實設備和現場聲音,尤其要觀察錯聽是否導致錯誤執行。
模型支援七種語言及有表現力的聲音,是 AWS 發布時列出的能力。對臺灣團隊來說,不能由「多語言」直接推定臺灣華語、口音與中英混用都已獲得同等支援。規劃服務前應核對當前支援清單,用實際會出現的商品名稱、地址與數字測試,再決定可以承接哪些來電。

非同步工具,讓等待查詢時仍能繼續說話
這次發布保留語音與文字同一工作階段、非同步工具使用等能力。非同步是指工具工作可以另外進行,對話不必完全停住等它結束。例如客服查物流時,使用者還能說明自己何時收到包裹,代理也可以告知正在查詢。這能降低等待感,卻增加了資訊先後順序的管理問題。
假設查詢最初使用的是舊地址,但使用者在工具回覆前提供新地址,代理就不能把舊查詢當成新問題的答案。應用可以替每次動作記錄對象與版本,回覆抵達時核對需求是否仍相同。若已改變,就重新查詢或解釋需要確認,避免把流暢的對話接到過期資料上。
Strands 的官方示例也把語音代理接到獨立的研究代理,讓較長的資料工作交給另一個工作流程。兩邊可以選擇不同模型,語音端維持回應,研究端處理搜尋與整理。這提供分工的彈性,但研究結果仍需要標明來源、時間與適用範圍,才能讓語音端可靠地轉述。
分工多了,成本與錯誤也可能轉移。語音模型本身回得更快,不代表研究代理、資料庫和第三方服務都變快。對使用者有意義的速度,是提出需求到取得可用結果的時間。因此應分別記錄首次回話、工具等待與任務完成,才看得出瓶頸是模型還是後面的業務系統。
也不需要每次都叫另一個代理。已有固定規則、可以直接查詢的問題,使用明確工具通常更容易驗證。較複雜的跨來源比較,才可能需要研究流程。若把所有需求都交給多層模型,便可能在沒有改善答案的情況下增加延遲、用量與查錯難度。
八分鐘連線上限,與長對話記憶是兩回事
長通話容易遇到的障礙,是模型供應商對單次連線設有期限。Strands 官方說明,Nova 2.5 Sonic 的供應商連線上限為八分鐘。Bidi Agents 會在接近期限時主動續接,盡可能選擇對話輪替的邊界,並設定等待界線。目的在於讓談話跨越多次連線繼續進行。
這裡要分清楚連線與對話。一通較長的電話,可以由數次底層連線支撐。框架會依供應商支援的機制帶入對話脈絡。這不表示同一條連線變成無期限,也不表示所有歷史錄音會原封不動傳遞。應用仍需要確認接續後,訂單編號、使用者最新要求與待辦工具狀態是否保留。
如果續接時正好在唸重要金額或確認地址,體驗可能比閒聊停頓更敏感。團隊可以安排跨越八分鐘的測試,在邊界附近插話、查詢與確認操作,觀察重連會不會重複回答、漏掉條件或再次執行。這些問題影響信任,也影響企業是否敢把辦理型任務交給語音代理。
應用程式重啟是另一種情況。Strands 另提供工作階段管理機制,處理跨啟動的持續紀錄,但保存內容仍受到供應商與歷史訊息方式的限制。自動更新模型連線,不能代替應用狀態儲存。若服務程序意外終止,未保存的申請進度不會因模型記得對話就自動恢復。
發布公告與官方模型比較圖將脈絡容量列為二十五萬六千個 token。token 是模型計算輸入長度的單位,不等於中文字數或通話分鐘。容量與連線期限處理的是不同限制,無法由其中一項推導另一項。真正需要驗證的是所用介面與版本的限制,以及接續後保留哪些必要資訊。
可觀測性,要能找出是哪一步失去準確
當客戶說 AI 辦錯事情,只有一份聊天逐字稿往往不夠。開發團隊還需要知道工具何時被呼叫、查的是哪個對象、模型收到了什麼結果,以及是否發生連線續接。可觀測性,就是留下能追查系統行為的紀錄,而不只是看最後一句回答好不好聽。
Strands 的觀測功能可利用 OpenTelemetry 記錄工作階段、模型回覆、工具使用與連線重啟等追蹤片段。OpenTelemetry 是讓不同服務用一致方式交換監測資料的工具體系。把這些片段接起來,就能檢視一次任務經過哪些服務,分辨模型判斷與系統執行各自花了多久。
官方也提醒,首段音訊回應時間衡量的是模型開始回話,並不代表完整任務已完成。假設代理一秒內說「我幫你查看」,卻又等待二十秒才知道查詢失敗,第一項指標仍可能很漂亮。企業應同時看成功完成率、等待時間、重試與轉真人原因,避免用快速應答掩蓋後續延誤。
監測資料也可能包含個人資訊。框架的追蹤欄位遮蔽,不能自動涵蓋所有應用日誌與已保存的對話歷史。因此需分別檢視監測、業務紀錄與音訊儲存,把能追查錯誤的必要資訊留下,並避免讓訂單、地址或完整錄音散落在多套沒有管理的記錄系統中。
這會使導入多一道設計工作,但也使收益更容易證明。若某類請求經常在政策查詢失敗,就能優先修工具。若使用者在代理長篇回答時頻繁打斷,就可以調整回覆長度。監測的用途是持續改善工作流程,讓每一次失敗能指出可處理的原因。
正式開放之後,企業仍要選擇合適的起點
Nova 2.5 Sonic 在 Amazon Bedrock 的美國北維吉尼亞、奧勒岡、歐洲斯德哥爾摩與亞太東京區域提供。Bedrock 是 AWS 存取模型的雲端服務。這份正式開放清單沒有列出臺灣區域,臺灣公司規劃串接時仍需確認資料傳輸、服務區域與自身業務需求,不能把全球可使用理解為本地部署。
AWS 表示定價與 Nova 2 Sonic 相同,這是新版的價格比較資訊。實際帳單仍會受到語音與文字用量、額外模型、工具服務及保留紀錄的費用影響。以一通成功完成的服務成本來比較,比只看每次模型輸出的價格更接近採購問題,也能把轉真人的後續負擔算進來。
官方說可用少量程式碼建立語音代理,指的是框架能簡化核心連接。要提供瀏覽器或手機服務,仍需處理客戶端音訊、連線和後端服務。要接企業客服,還有身分驗證、工作權限與人工接手。示例快速跑起來很有價值,但它與穩定營運是不同階段。
適合的第一個任務,是有清楚完成條件、可以核對結果的流程。例如查物流與說明已確認的退貨資格,先觀察錯聽、插話與續接,再逐步加入申請動作。這個順序能讓團隊區分語音模型是否理解問題,以及執行工具是否可靠,避免同時改動太多環節而無法判斷成效。
Nova 2.5 Sonic 的重要性,是讓語音代理更接近可以交付任務的介面。最後的採用標準應落在客戶是否拿到正確結果、出錯是否能復原、真人能否順利接手。當這三件事能用真實紀錄回答,自然的聲音才會轉成有意義的服務品質,而不只是一次令人印象深刻的展示。
常見問題
已經正式開放了嗎?
AWS 在十月五日宣佈正式開放,並列出四個 Bedrock 區域。正式開放代表可依服務條件存取,不保證每家公司都已完成帳戶、區域與應用設定。若團隊已使用舊版,仍應核對接入的新模型與測試結果,再切換服務流程。
一通電話只能講八分鐘嗎?
Strands 文件列的是供應商單次連線上限。框架會主動續接並攜帶可用脈絡,對話可以跨連線延續。企業仍需測試邊界附近的工具狀態與內容傳遞,尤其不能在重新連接後重複建立同一筆申請。
可以完全取代客服人員嗎?
官方發布沒有提供所有企業情境下的取代比例。較合理的用途是讓清楚且可驗證的任務先由代理處理,複雜爭議或資料不足時轉接真人。把相關訂單、已查資料與尚未完成的事項一起交接,才可能減少重複詢問並提高服務效率。