Saluki 27B 壓到7.89GB：本機 AI 保留96%評測表現，工具代理能直接取代大模型嗎？
Underdog 發布基於 Qwen3.8-27B 的 Saluki 27B，量化檔案7.89GB，宣稱九項評測平均保留96%表現。本文依官方模型卡解釋88/120工具呼叫、42/100平行任務與數學退步，區分模型檔、圖片附加檔與實際記憶體，整理本機代理驗收與使用限制，不把壓縮大小當成全部能力相同。
Saluki 27B 的新聞重點，是把一個27B參數模型壓到7.89GB，仍希望保留工具呼叫能力。對想在自己的設備使用 AI 的人，這讓容量與能力的取捨更值得討論。
Underdog 在 2026 年 10 月 8 日的官方 X 發表指出，新模型基於 Qwen3.8-27B，檔案接近完整精度版本的七分之一，並宣稱九項評測平均保留96%的表現。
依官方模型卡，工具呼叫測試通過88個任務，完整模型為84個。但這是120個指定任務中的結果，不能直接當成所有代理工作的勝率。
更需要注意的是，平均保留96%不表示每一種能力都保留96%。數學、推理與工具格式各有不同落差，模型卡也明列這些限制。
本文沒有下載模型、測試電腦或重跑榜單。下文依發布者資料整理，將檔案大小、評測條件與工作流程分開，讓讀者知道哪些問題仍需自己驗證。
Saluki 27B 的量化，改變的是模型存放方式
量化可以理解成用更精簡的數值表示模型權重，也就是訓練完成後學到的數值設定，降低儲存與運算需求。它不等於把原本的所有能力完整複製，壓縮後仍可能出現不同任務的落差。
Saluki 27B 提供的是 GGUF 格式，可以交給支援這種格式的本機執行工具讀取。模型卡指出，它使用一般 llama.cpp，也可以接到基於該工具的應用。
這裡需要分清楚模型與應用。模型檔提供生成能力，執行工具負責載入與運算。你使用的聊天或代理介面，還需要處理任務、工具與結果。
因此，取得一個小檔案，不表示已經有完整的自動化系統。模型能否接上你的工作軟體、如何回報錯誤，以及任務完成後保存什麼，都有額外工作。
對已有本機模型環境的人，它提供新的候選選擇。對第一次接觸的人，先了解自己的設備與執行工具條件，會比只看檔案數字更容易判斷可行性。
本站沒有測試相容應用清單，也沒有驗證不同版本的效果。官方說明可作為開始檢查的依據，實際使用仍要看當前軟體與設定。
7.89GB 是權重檔，不是完整記憶體保證
模型卡列出的主要文字模型檔案為7.89GB，完整精度對照模型為54GB。這確實是明顯的容量差距，但描述的是指定檔案，不能直接換成總記憶體需求。
執行時還需要處理對話內容、生成狀態與其他程式工作。對話越長、同時處理的任務不同，都可能改變資源需求。本文沒有量測這些條件。
因此，不能由「不到8GB」推定所有8GB電腦一定順暢。模型能載入、能回應，以及完成實際工作所需的速度，是需要分開觀察的事情。
圖片能力也不是主檔直接包含。官方提供額外的視覺檔案，其中完整版本為928MB，另有629MB版本；需要圖片時，要把附加容量一起考慮。
這讓選擇更具體：只處理文字與工具請求，和需要辨識圖片，是不同的工作需求。介紹模型時，不宜把可選圖片能力說成主檔一開始全部具備。
若你準備評估設備，可以先列出常見對話長度、是否帶圖與同時任務數。這是本文建議的觀察方向，並不是已驗證的最低硬體配置表。
工具呼叫88比84，仍要保留120任務的背景
工具呼叫是讓模型選擇外部功能，並提供合適參數。例如決定查詢什麼資料、傳入哪些條件，而不只是回答一段自然語言文字。
官方的 Underdog Bench 從 BFCL v4 選出120個任務，並說明在測試任何模型之前就固定題目。這有助於理解比較範圍，仍是一個相對小的樣本。
在關閉思考、指定生成設定的情況下，新模型通過88個，完整模型通過84個。官方也提醒，少量任務的差距可能受到不同執行輪次影響。
換句話說，這個結果支持「指定測試中工具呼叫被保留得不錯」。它不能證明每一個工具、每個產品與每種語言，都會得到相同的優勢。
例如，模型選對工具，也可能在參數名稱或格式上出錯。真正的應用需要看外部工具能否接受請求，以及執行後的結果是否符合使用者目標。
本文沒有重現這120個任務，也沒有取得自己工作流程的成功比例。將官方數字保留為發布者評估，較能避免把新聞資訊直接寫成部署成效。
平行任務42比35，不代表可以任意並行執行
官方另列100個平行工具呼叫任務，使用評測的檢查器。新模型通過42個，完整模型通過35個，這是另一種指定任務比較。
這裡的平行工具呼叫，描述模型是否能產生符合題目需要的多個工具請求。外部系統是否適合同時執行，仍取決於工具本身與任務關係。
例如，兩個獨立資料查詢可能可以一起執行，但先建立資料再修改它，就有前後依賴。模型評測分數不會自動消除這種工作限制。
模型卡也說，約五分之一的平行呼叫回覆有小型格式問題。這個限制值得保留，不能只看通過數增加，便忽略實際串接時的解析與錯誤處理。
因此，評估工具代理時，可以同時看選擇、參數與格式。只判斷回覆文字看起來合理，可能會漏掉外部工具其實沒有完成工作的情況。
這些是本文提出的驗收方向，不是官方宣稱每個工作系統都能使用的保證。工具端回報與任務結果，仍應成為判斷的一部分。
九項平均96%，數學與推理仍有明顯差異
模型卡列出多項代理、指令、程式與推理評測。某些指令遵循分數略高，另一些程式、推理與競賽數學分數低於完整模型，各項不能互相代替。
例如，AIME 2025為79.2，完整模型對照為96.7；AIME 2026為80.0，對照為94.6。官方限制段落也指出，約保留82%至85%的競賽數學表現。
對需要數學推理的使用者，這比平均96%更有選型意義。容量變小是優點，自己的重要任務如果退步較多，就仍需要其他選擇或更完整檢查。
另一項推理評測 MuSR 列出67.5，完整模型的公開對照為79.6。這提醒讀者，不能從工具呼叫結果，推定其他推理工作也同樣變好。
官方同時說明，部分完整模型分數來自公開資料，使用的測試執行框架不同。並非所有列出的數字都由同一環境重跑，讀表時應保留這個條件。
平均數有利於快速介紹產品，但真正選型應回到自己最常做的工作。資料查詢、程式修改與競賽題目，可能有不同的容錯與能力需求。
長推理與字母規則，也會影響使用感受
官方限制包含字母層級的指令題，例如迴文、母音規則與字母排序。這類任務看起來簡單，但模型需要精確處理字元，不能只依文字理解判斷。
若你的工作需要固定格式或嚴格字元規則，可以將代表性例子納入評估。模型在大多數回答很流暢，也不會自動保證這些細節全部符合需求。
思考模式預設開啟，官方也指出，模型可能在回答之前進行較長推理。這會影響等待感受，與下載檔案很小，是兩個不同的問題。
模型卡提供一般推理與直接工具呼叫的不同設定方向。這表示任務需求會影響使用方式，不能只用一套條件推定全部場景的速度與效果。
本文沒有比較各種設定，也不提供以速度優化為目的的完整操作步驟。團隊可以先確認任務是否需要深度推理，再安排合適的測試條件。
保存比較時，也應記錄是否啟用思考。否則，一邊等待較長但處理複雜問題，另一邊快速產生工具請求，兩者很難公平比較。
本機使用的價值，還要接到可維護的流程
| 官方資訊 | 可以支持的理解 | 仍需另外檢查 |
|---|---|---|
| 主檔7.89GB | 文字權重檔明顯縮小 | 執行記憶體與實際速度 |
| 九項平均保留96% | 指定評測的整體摘要 | 自己重要任務的落差 |
| 工具呼叫88/120 | 指定樣本中保留呼叫能力 | 實際工具參數與結果 |
| 可加視覺檔 | 有選配圖片能力 | 附加容量與圖片效果 |
本機部署可以讓使用者管理自己的執行環境，但不能由模型檔直接推定整個代理完全離線。外部工具、資料來源與所用介面，都可能影響完整流程。
對團隊而言，合理的第一步是選一項可以核對的任務，例如固定資料查詢。先觀察模型是否選對工具，結果是否可讀，再評估更複雜的自動化。
如果一次測試成功，也應查看不同輸入與失敗情況。錯誤發生時能否保留可檢查結果，以及人能否接手，會影響工作真正能否持續運作。
這些屬於本文提出的導入方向。本站沒有安裝或運行模型，不能提供自有的效能、繁體中文品質或設備相容性結論。
更完整的比較，可以同時記錄成功率、等待時間與人工修正量。模型回答很快，但每次都需要人工修改參數，可能沒有真正減少整個工作負擔。
如果任務本來只需要一個簡單查詢，大模型的額外能力未必都是必要。相反地，需要複雜推理的任務，也不宜為了容量小，就忽略已公開的能力落差。
模型卡的語言標記包含英文，本文沒有取得繁體中文工具任務的評測。因此，面向臺灣使用者的產品仍應保留自己的語言與格式例子，不宜直接套用英文任務表現。
接手者也需要知道測試用了哪個檔案和版本。相同模型名稱如果對應不同附加檔或設定，結果就可能不同，留下條件才能讓比較更容易被理解。
評估的目的，是找到適合自己工作的容量與能力組合。只記住「比較小」或「某項略高」，都不足以決定導入，重要的是完整流程能否可靠完成任務。
模型卡標示 Apache 2.0，並列出基礎模型與相關來源。使用者可閱讀對應授權與通知文件，再確認自己的使用方式，不宜只由開源標籤推定所有條件相同。
若想先建立可接手的程式專案與工作環境，可延伸閱讀GitHub、VS Code 與 Claude Code 課程。課程提供一般開發方法，不是 Saluki 的安裝或硬體調校教學。
FAQ：Saluki 27B 容量與評測怎麼讀？
8GB電腦就一定能順暢使用嗎？
不能只由7.89GB權重檔推定。實際執行還有其他記憶體與工作量需求，帶圖也需要額外視覺檔，速度須按設備與任務量測。
保留96%是否表示全部任務都接近完整模型？
不是。它是九項評測的平均摘要，數學與推理存在不同落差，而且部分對照分數來自不同執行框架，應按重要任務逐項看。
工具呼叫分數比較高，可以直接取代完整模型嗎？
只能說指定120任務中通過數略高。外部工具、參數格式、語言與工作目標仍需要評估，少量分數差距也可能受執行輪次影響。
主要檔案是否直接包含圖片能力？
主檔是文字模型。需要圖片時，官方提供額外的視覺檔案，應把容量與使用條件一起確認，不能省略附加檔的需求。
