Kanana-2-v-decide 開放權重,AI 代理為何可以不寫文字就做選擇?

Kanana-2-v-decide 開放多模態決策權重,直接回傳選項與機率。解析 confidence 定義、公開評測分母、四十毫秒條件、圖片輸入與第三方服務授權。

Share
Kakao官方示意圖對照Kanana-2-v-decide與GPT-6 Luna的決策回應流程
Kakao以官方展示對照決策輸出速度,約四十毫秒與四十三倍均為提供者公布的特定測量,並非本機實測。 圖片來源:官方原文。

代理接到商品照片與詢問後,常要先判斷交給退貨、規格查詢或人工服務,才能開始下一步。

Kanana-2-v-decide 把這個選擇從聊天拆出來。Kakao在2026年11月6日開放權重,讓模型讀取文字與圖片後,直接回傳候選答案的機率。

如果系統只需要選項,就不必等模型逐字寫完解釋,再從句子裡找出分類。這種輸出也更容易讓後續程式接手。

不過,模型回答的是開發者提供的問題。候選選項怎麼寫、是否漏掉合理答案,都會改變它能做出的判斷。

官方宣稱單張H200可在約四十毫秒內回應,但這個數字屬於特定決策測量,不能換成整個代理工作快四十三倍。

我認為它值得有固定分類與工具選擇需求的團隊評估,前提是看懂機率的定義,以及自建服務和對外提供模型的授權差別。

從輸出形式拆開,就能看出這個小模型在代理流程裡負責哪一段工作。

Kanana-2-v-decide 為什麼不需要逐字回答?

模型把問題與候選答案轉成可比較的數值表示,直接產生選項分布,省去生成完整文句的步驟。

依官方模型卡,它建立在Kanana-2-v-3b上,總計約36.7億參數,其中約4.9億處理視覺,其餘約31.8億處理語言。

它能接收文字、結構化資料或聊天紀錄,也能附上圖片。開發者把這份待判讀內容稱為state,可以理解成模型目前需要掌握的情境。

每個問題會和情境一起,編成一個2,560維的向量。向量就是一串用來表示內容的數字,候選答案也會各自轉成另一串數字。

接著,系統比較問題和每個答案的相似程度,再把比較結果轉為總和等於一的機率分布。最後交出去的是選項與分數,而非一段聊天回答。

例如分類售後需求時,程式可以提供「退貨」「商品規格」「其他」三個候選,並依最高分選出後續流程。這是依介面可以組成的情境,不是本文完成過的實測。

模型卡允許一次請求包含多個問題,但每個問題與候選輸入仍需分別通過模型運算。因此,一次送出多題不代表整批內容只計算一次。

候選也可以有較長的內容描述,因此它能比較的不限於一個簡短標籤。但描述本身過長時也可能被縮短,選項寫得越多不代表每個細節都會留下。

相同候選的表示可以快取重用,也就是把算過的結果留下來。官方按候選的文字單位識別碼保存這些結果,選項穩定的分類工作因此較容易重用前次計算。

這種設計把「選哪一個」做成獨立介面。後續若要向顧客解釋原因,仍可以交給能生成文字的模型,兩者在工作鏈裡各有位置。

Kakao官方示意圖對照Kanana-2-v-decide與GPT-6 Luna的決策回應流程
Kakao以官方展示對照決策輸出速度,約四十毫秒與四十三倍均為提供者公布的特定測量,並非本機實測。 圖片來源:官方原文。

選擇、是非與評分,回傳的機率怎麼讀?

輸出數字的意義隨問題形式而變,也取決於候選集合,不能把每個高分都當成現實事件發生的可靠機率。

第一種choice用來從多個候選中選擇。回傳內容包括選中的識別名稱、每個候選的機率,以及一個另行計算的confidence值。

這裡的confidence並非最高機率本身,而是最高機率減去其他候選機率的平均。它描述領先幅度,和「模型有多少把握」這種日常說法並不完全相同。

假設三個候選分別得到0.6、0.3與0.1,其他兩者平均為0.2,這個領先值就是0.4。這是依官方定義的示例計算,沒有把它當成測試結果。

第二種noul回答是非,交回肯定答案的機率。第三種score則把結果放在有順序的等級上,支援兩到十級,並計算等級索引的期望值。

若等級是低、中、高,對應索引零、一、二,回傳的期望值便落在零到二之間。它表達的是這組等級的加權位置,若業務需要金額、百分比或文字評語,仍要另有對應的定義與處理。

為何增加一個選項,原本的機率也可能變?

機率來自候選之間的相對比較。加入另一個很相似的答案,原本集中在某一選項上的分數可能被分開,因此改選項也等於改了問題。

如果所有候選都不合適,總和仍會等於一。團隊需要先決定流程如何容納「其他」或交人工處理,才能讓輸出和實際業務狀態對得起來。

官方介面還能控制候選是否出現在問題表示裡。choice與是非問題預設會帶入選項,評分的等級則一定帶入,這使選項內容不只影響最後的比較,也會影響問題如何被編碼。

對評分工作而言,等級的順序尤其重要。把「無缺陷、輕微、嚴重」排成零到二,分數越高代表越嚴重。若把次序反過來,同一種數字就不能沿用原先的業務解讀。

介面另提供溫度參數,預設為一。提高溫度會讓分布較平,降低則更集中,但這是在調整數值的尖銳程度,不會替系統補上漏掉的候選答案。

因此,建立門檻時要連同選項文字與資料一起比較。只把別人的0.8門檻搬來,卻換成另一組候選,並沒有保留原來的判斷條件。

延伸閱讀:決策模型怎麼做 LLM 評測?Hamel Husain 教你調門檻、比成本、讀分數

四十毫秒與61.23分,分別測了什麼?

速度與品質來自不同測量,公開兩項平均和韓文自建題庫也有各自分母,讀者需要分開理解。

模型卡列出Decision Index 0.4.1文字測試61.34分,以及視覺測試61.12分。61.23是這兩個公開分數的平均,不是所有題目直接混在一起算出的答對率。

在這份比較表中,它的兩項平均最高,視覺分數也最高。但文字欄的Base Labs Joey-1為63.31分,比它高,因此不能說每個項目都排第一。

另一個72.50分來自Kakao自建韓文決策題庫,共15,909題。這份資料的語言與來源不同,也沒有被納入前述公開兩項平均。

這也讓台灣團隊多一個需要自行確認的條件。韓文題庫的優勢不能直接當成繁體中文資料上的優勢,文字語言與分類情境仍需對應到自己的輸入。

把三者拆開後,讀者才看得出模型在多模態和韓文任務的研究方向。若把72.50說成公開總成績,便會把不同題庫的結果接成另一個排名。

官方新聞稿另稱,在單張H200上平均回應時間低於0.04秒,並以GPT-6 Luna為比較對象,提出約43倍的速度差異。

這是作者針對決策輸出的測量。它沒有證明整個流程中的網路、圖片處理、工具執行和後續生成回答,也都一起快了43倍。

模型卡亦未提供可把這組速度完整搬到不同硬體的等條件重跑資料。所以這個數字比較適合說明直接選擇的設計目的,不能變成一般電腦的回應時間承諾。

對部署團隊而言,品質與延遲要在同一份自己的資料上交會。某個分類即使快,若經常送錯流程,後續重做仍會花掉時間,這是從工作鏈推得的採用條件。

把文字與圖片接到服務,要注意哪些輸入條件?

模型卡提供可運作的輸入與伺服器介面,但圖片前處理、超長內容和請求排隊方式,都會影響應用如何安排。

單次輸入上限是20,480個文字單位,也就是模型切分文字後的token,最多可附十張圖片。目前公開介面沒有列出影片輸入。

文字過長時,預設會保留開頭與結尾,截掉中間部分,圖片則保留下來。如果分類依據剛好出現在中段,模型收到的資料就和使用者以為交出的完整內容不同。

開發者可選擇嚴格輸入模式,讓超出條件的內容直接被拒絕。這把問題從默默改變資料,轉成程式需要明確處理的錯誤,兩種選擇對流程有不同影響。

圖片也有細節。官方處理方式不會套用EXIF方向資訊,也就是相機另外記下的旋轉標記。帶透明度的圖片會轉成白底,另有像素調整與極端長寬比限制。

前處理會先把大圖限制在約164萬像素內,小圖則放大到至少65,536像素,再切成模型能讀的區塊。這表示送入的原始尺寸,不等於模型直接逐像素閱讀的尺寸。

聊天紀錄則要使用對應的訊息格式,保留角色與圖文片段。若把整段紀錄當成普通字串,送入方式便和有角色結構的輸入不同,不能只憑畫面看起來相同就視為同一條件。

所以,照片看起來方向正確,不代表模型實際讀到的像素方向相同。若工作依賴產品位置或畫面文字,輸入整理本身就是分類品質的一部分。

附帶伺服器範例,是否已經處理大量同時請求?

範例以標準函式庫提供HTTP入口,預設只監聽本機位址,也能設定存取金鑰。但請求會逐一處理,不能據此宣稱已有大量並行服務的能力。

「伺服器程式簡單」也不等於「模型不需要專門環境」。實際推論仍涉及CUDA、BF16數值格式與自訂模型程式,接入前要把介面和運算需求分開確認。

這些條件不妨礙它成為流程中的專用判斷元件,卻會決定資料怎麼送、何時拒絕和請求是否等待。服務能接起來之後,下一步才是看權重允許怎樣提供出去。

延伸閱讀:Ollama 支援本機決策模型:把快速分類留在電腦,部署前要確認什麼?

自建服務和轉售模型,授權差在哪裡?

實際條款把自己的服務與向第三方提供模型存取分開處理,公開權重不等於所有服務形式都自動獲准。

Kanana Open License第4.2節允許以模型提供自己的服務,但第4.1節為特定第三方提供方式列出另行取得商業授權的要求。

這些方式包括提供或轉售模型API、雲端或遠端存取,以及系統整合、地端方案和把模型嵌入第三方裝置等。API就是讓其他程式呼叫模型的介面,不能只按是否收取下載費判斷。

例如把分類放進自己的產品功能,與讓客戶直接呼叫模型服務,對使用者看來都可能有一個網頁入口,授權中描述的提供方式卻不同。

條款另要求再散布時附上授權與通知、標示修改,並依條件保留Powered by Kanana等歸屬。若用相關材料或輸出訓練其他AI並散布,也有名稱前綴要求。

因此,團隊要核對的是實際交付形態。把模型當內部流程的一環,和把模型本身交給第三方使用,應分別對照條文,而不是只看「商用」兩個字。

Kanana-2-v-decide 常見問題 FAQ

會輸出選擇理由嗎?

它直接回傳候選分布,並不生成解釋文字。若產品需要理由,還要另有能提供說明的流程,不能把選項分數當成已完成的自然語言解釋。

最高機率等於confidence嗎?

不是。choice的confidence是最高機率減去其他候選機率的平均,用來描述相對領先幅度。它也不能取代實際資料上的準確度與門檻比較。

可以把公開權重直接轉成任何模型API嗎?

條款對向第三方提供模型API、雲端或遠端存取等方式要求另行商業授權。自己的服務許可與模型提供例外,需要一起閱讀。

結論

Kanana-2-v-decide讓代理中的選擇工作有了獨立輸出方式。它的價值在於讀完資料後,把可接續的選項與數字交給程式,而非每一步都先產生文句。

若團隊已有固定分類,可先保留同一組候選與題目,檢查錯分、機率門檻和實際等待時間,再決定是否接進流程。這樣才能讓速度優勢對應到自己的工作,而非只停留在展示數字。

資料來源