Cohere Embed 5 分成 Pro 與 Fast:企業搜尋可以把資料品質與查詢成本分開設計
Cohere Embed 5 提供共享向量空間的 Pro 與 Fast,可用 Pro 建立索引、Fast 查詢。本文解析多模態檔案搜尋、評測方法與企業驗收重點。
企業使用 AI 回答檔案問題,最先需要解決的往往不是模型怎麼說,而是系統有沒有找到正確資料。Cohere 發布 Embed 5,提供 Pro 與 Fast 兩種版本,並強調兩者共享相同的向量空間。這讓資料建立索引與日常查詢,有機會使用不同成本與品質設定。
官方描述可以用 Pro 編碼檔案,再用 Fast 編碼問題,不必為了這種組合重新建立檔案索引。這項設計值得需要大量檔案搜尋的團隊注意,但共享空間不代表兩者在所有問題上表現相同。最合理的試用方式,是固定檔案與問題,比較找到的結果與實際費用。
向量,是把內容轉成可比較的數值
嵌入模型會把文字或圖片轉成一串數值,也就是向量。系統再用向量之間的相似程度,找出可能與問題相關的內容。讀者可以把它理解成一種搜尋座標:不只比對字面,也試著讓意思相近的內容靠近。
這有助於處理同義說法。例如員工問「出差住宿能報多少」,檔案標題可能寫「差旅住宿費用標準」。傳統關鍵字未必找到,向量搜尋則有機會根據意思取回相關段落。不過,相似不等於正確,結果仍需要版本、來源與許可權核對。
搜尋結果若交給生成模型回答,就形成先取回資料再作答的流程,常稱為 RAG。嵌入模型影響取回階段,生成模型影響回答階段。兩者應分開驗收,避免答案不正確時,不知道是資料沒找到還是模型解釋錯誤。

共享向量空間,帶來怎樣的選擇
不同嵌入模型通常有自己的數值空間,檔案與問題必須以相容方式編碼,才能比較。Cohere 這次強調 Pro 與 Fast 共享空間,使團隊能夠在同一份索引上比較不同查詢編碼方式。
如果檔案不常改變、查詢卻很多,可以考慮用較重的 Pro 處理檔案,再用較快的 Fast 處理日常問題。這個組合的經濟意義在於,檔案編碼可能是較少發生的工作,查詢則持續發生。具體是否划算,仍要看檔案更新量、查詢量與品質差異。
團隊也可以先儲存 Pro 查詢作為比較,而不是立刻全部切換。觀察 Fast 在常見題目與困難題目上的結果,決定哪些需求能夠使用較低成本設定。共享空間提供選擇,最終分流仍需要自己的資料。
官方列出的規格與價格,應對應正確輸入
Embed 5 官方說明包含最高十二萬八千文字單位的上下文、一百多種語言,以及文字與影象處理。文字單位是模型切分輸入後的計量方式,不能直接等同中文字數量。長檔案進入系統前,仍需要規劃切分與檢索。
官方列出文字 Pro 每百萬文字單位零點一二美元,Fast 為零點零八美元,影象兩者為每百萬文字單位零點四零美元。價格應依實際服務與賬單確認,文字與影象也不應混成同一種成本。本文數字用於理解發布條件,不把它當成所有平台的固定報價。
向量維度也有多種選擇。維度越多,通常需要更多儲存與計算,但品質差異必須實測。若只減少維度就假設搜尋完全不變,可能低估困難問題的影響。建立成本表時,應同時儲存維度、輸入方式與檢索設定。
多模態搜尋,適合處理圖表與掃描頁面
企業檔案常包含表格、圖形與掃描內容。只抽取文字,可能丟掉佈局、圖表標示與關係。支援影象的嵌入方式,讓系統有機會從頁面視覺內容尋找答案,但不能假設所有數字與細字都能準確讀出。
例如一份產品報告的關鍵資訊在圖表裡,問題問到某個季度變化,系統需要找到正確頁面,再由適當方法解釋圖表。找到影象與讀懂數字是不同步驟,檢索驗收應確認頁面正確,回答驗收再確認內容正確。
掃描品質也會影響結果。歪斜、低解析度與印章遮擋,可能讓內容難以辨識。模型更新不能完全補救來源問題。團隊可以先依資料型別分組,比較文字檔案、清楚掃描與困難掃描的取回表現。
先建立一組真實問題與正確來源
以下是企業試用示例。選擇一組採購、差旅與產品檔案,準備員工常問的題目,並標註哪些段落能夠支援答案。題目應包含直接用詞、同義說法與跨檔案比較,避免只測檔案標題裡的關鍵詞。
每個問題可以允許多個合理來源,但必須說明為什麼相關。某份檔案與主題相近,卻沒有回答金額或期限,不能只因為語義接近就算正確。這樣的標註會幫助團隊判斷檢索是否真正找到可用於回答的內容。
也要加入沒有答案的問題。系統應該知道資料庫沒有相應來源,而不是永遠返回幾個看似相關段落。對企業知識服務,能分辨資料不足,和能找到資料一樣重要,也會影響後續生成模型是否自行補充。
排序品質,比只找到一篇相關檔案更重要
檢索通常會返回多項結果,排序決定模型先看到哪些內容。正確段落排在很後面,可能因為輸入長度或數量限制而沒有進入回答。評估時應觀察前幾項結果,而不只檢查整個列表中有沒有正確檔案。
可以記錄第一項是否直接支援答案,以及前幾項是否包含必要來源。若跨檔案問題需要兩份資料,兩份都應被取回。若結果充滿重複段落,也可能浪費輸入空間,讓其他關鍵來源被擠掉。
去重與排序可以依實際任務調整。一般政策查詢需要最新有效檔案,歷史分析則可能需要舊版本。把日期與檔案型別作為資料屬性,能幫助系統正確安排結果,而不是只依向量相似程度決定全部順序。
官方新評測方法,也需要理解評審來源
Cohere 同時介紹 RCP-nDCG 檢索評估方法,使用經人工校準的模型評審來判斷相關性與排序。它有助於評估複雜檔案與問題,但模型評審仍然是評估工具,不能直接當成完全沒有偏差的事實來源。
若團隊採用類似方法,可以先讓人工檢查一批評分,觀察評審是否真的理解自己的檔案。行業術語、版本與細節要求,可能讓通用評審誤判。人工校準的目的,是確認分數和真實任務需要一致,而不只是讓評分自動化。
釋出方的排行榜可以提供比較線索,但自己的問題集更適合支援採購。尤其當企業的檔案語言、格式與任務和公開評測不同,直接照排名選擇,可能忽略資料特性與維護成本。
檔案切分,會影響嵌入模型能看到的脈絡
長檔案通常會被切成段落或區塊再建立索引。切得太短,標題、條件與例外可能分開。切得太長,結果又可能包含太多無關內容。新的嵌入模型不會自動替團隊解決所有切分問題。
可以讓區塊保留章節名稱、檔案版本與鄰近必要說明。若某條政策依賴上一段的適用物件,就應讓這層關係仍能被檢索與解釋。表格也應保留欄目與單位,避免只存一組失去意義的數值。
比較 Pro 與 Fast 時,切分方式應保持一致。否則結果變化可能來自資料整理,而不只是模型。先固定資料,再改變一個設定,比較才容易解釋,也能讓團隊找到真正有效的最佳化。
不重新索引,不代表所有遷移都沒有工作
Pro 與 Fast 的相容性,讓兩者之間的查詢組合比較方便。但若原本使用另一家模型,舊向量未必與 Embed 5 相容。團隊仍可能需要重新編碼檔案、調整資料庫與重新跑題目,不能把共享空間的優勢擴充套件到所有舊索引。
遷移時可以先複製一小部分資料建立測試索引,避免直接覆蓋原有服務。確認結果與成本後,再規劃全面更新。若資料量很大,還要估算編碼時間、儲存與維護視窗。
索引版本也應與檔案版本一起儲存。檔案更新後舊向量沒有替換,系統可能繼續取回過期內容。模型選擇只是其中一環,資料同步與清理流程仍決定長期服務品質。
成本比較,要包含查詢後的工作
較低的查詢編碼費用,有機會在高查詢量下節省成本。但整個知識服務還包括資料庫查詢、重新排序、生成回答與人工檢查。如果嵌入費用只佔很小比例,單獨下降未必顯著改變總賬單。
也要觀察品質影響。如果 Fast 讓部分困難題目需要再次查詢或更長輸入,可能增加其他階段費用。可以用每個正確回答的總成本比較,讓價格與品質放在同一個任務單位裡。
對大量查詢服務,可以依題型分流。常見簡單問題使用較低成本方式,複雜跨檔案問題採用更嚴格檢索與核對。這樣的安排需要題目分類與結果紀錄,不應只依據模型名稱中的快或專業來決定。
許可權與引用,不能交給相似度決定
向量相似度可以判斷內容相關,但無法替企業決定使用者有沒有許可權閱讀。檢索時應依使用者許可權過濾資料,再把允許的結果交給模型。若先取回全部內容再讓模型自行忽略,可能讓不該出現的資料進入回答環境。
引用則應對應具體檔案與段落,讓使用者能夠檢查。只有一個檔案標題,往往不足以核對答案。有版本與位置,才比較容易發現舊資料或錯誤解釋。對企業使用者,可追溯的來源通常比流暢措辭更重要。
當有人回報錯誤,先檢查取回結果,再檢查生成回答。這個順序能夠快速分辨檢索與解釋問題,也讓團隊知道該調整索引、切分還是回答提示。
Embed 5 值得怎樣試用
這次釋出的實際價值,是讓企業在相容的檢索空間裡更細緻地安排檔案編碼與查詢成本。多模態、長輸入與不同維度提供更多選擇,但也需要資料組織與任務驗收配合。
先用一組真實問題比較 Pro 檔案配 Pro 查詢、Pro 檔案配 Fast 查詢,記錄前幾項來源與完整回答,再計算費用。若結果足夠穩定,才擴大到更多資料與使用者。這樣能把共享空間的產品設計,轉成企業自己的可驗證收益。
試用報告也可以列出仍未透過的題型,例如跨版本規則、含小字的圖表與需要兩份檔案共同回答的問題。這些專案能幫助團隊安排人工接手,也讓下一次模型更新有明確比較目標。只保留整體平均分數,往往看不出真正需要改善的地方。
對已透過的題型,則儲存問題、正確來源與設定。日後檔案更新或服務入口改變,重跑這些案例,就能確認原本的能力仍然成立。讓測試資料成為持續維護的一部分,企業搜尋才比較容易從試用走向穩定服務。