本機 AI 選型與部署：依裝置與用途閱讀的 6 篇指南

本機 AI 要先問的是你想做什麼，以及手上是哪一台裝置。聊天、讀圖與寫程式的條件不同，只按模型名稱或檔案大小選，很容易漏掉真正的需求。

這頁把六篇文章分成程式工作、Mac 推論，以及本機對話與視覺。先從下方用途對照找到入口，再讀各篇的硬體、工具與測試條件。

文章中的容量與速度都有各自情境。選型時請連同輸入長度、快取和軟體支援一起看，並用自己的工作做一次測試。整理日期：2026 年 10 月 24 日。

你的需求	先確認的條件	閱讀方向
在本機寫程式	作業系統、顯示記憶體與推論軟體	程式模型與開發環境
在 Mac 調整推論方式	晶片、可用記憶體與專案支援條件	Mac 推論工具
做本機對話或讀圖	回應等待、圖片處理與完整系統用量	本機對話與視覺

程式模型與開發環境

Windows／開發環境

Junie Local Windows 穩定版：24GB RTX 顯卡能做什麼，和免費 Junie Lite 差在哪？

閱讀 Junie Local 的硬體與版本條件，再和自己的專案及工具需求比對。

開始前：作業系統、顯示卡與要完成的程式任務。

Junie 官方 RTX Spark 宣傳圖，黑底文字介紹本機代理，底部列出 /local 指令。 圖片來源：官方原文。

程式模型／相容性

Gyro-Coder-L 讓 Qwen 放進 32GB：刪減專家、保留程式能力要付出什麼？

理解專家刪減與量化如何改變模型，分開查看相容性及程式測試。

開始前：可用顯存、推論軟體與自己的測試題。

AgentionAI 的 Gyro-Coder 模型卡主視覺，非阿里巴巴官方新模型公告。 圖片來源：官方原文。

程式模型／評估

Recursive Flint 開放權重：40B 本機程式模型，Eureka Machine 幫忙做了什麼？

從 Recursive Flint 的案例了解本機程式用途，以及評測與實際專案之間的差別。

開始前：專案類型、執行環境與完成標準。

Flint 官方發布主視覺。圖片來源：Recursive 官方公告。

Mac 推論工具

Mac／推論工具

Rapid-MLX 0.16.0 更新：Mac 本機模型加速，先看實驗設定再看倍數

依原文的模型與硬體條件閱讀測試數據，再核對自己的工作負載。

開始前：Mac 晶片、可用記憶體與要執行的模型。

Rapid-MLX 發布的產品或教學畫面 圖片來源：Rapid-MLX。

本機對話與視覺

對話與工具

Nemotron Bolt E4B 壓進約 4GB：本機對話代理的記憶體與延遲怎麼看？

從對話與工具示範理解記憶體用量、回應等待及其他元件的分工。

開始前：預期裝置、輸入長度與可接受的等待。

NVIDIA 官方機器人示範：Bolt 負責對話與工具，Cosmos 處理視覺，非單模型包辦全部能力。 圖片來源：官方原文。

視覺與文件

MiniCPM-V 4.7 本機視覺 AI 解析：手機讀圖更快，3GB 記憶體與五倍加速怎麼看

分清模型、儲存與記憶體條件，再評估讀圖及文件工作。

開始前：自己的圖片或文件樣本與目標裝置。

OpenBMB 原始公告素材；示範結果須依原文條件理解。 圖片來源：OpenBMB。

開始做一個小作品

用相同的工作樣本比較讀取等待、輸出品質與完整系統用量，留下裝置及設定，才方便重做選型判斷。