MiniCPM-V 4.7 本機視覺 AI 解析：手機讀圖更快，3GB 記憶體與五倍加速怎麼看
MiniCPM-V 4.7 發布兩款本機多模態模型。解析總參數與啟用參數、LES 專家預載、官方加速條件，從文件辨識到手機部署，建立可比較的品質與速度驗收。
MiniCPM-V 4.7 在 2026 年 10 月 12 日發布，讓手機和平板上的 AI 讀圖、理解文件與影片，再次成為 X 上的討論焦點。
最吸引人的展示，是大型模型能在手機上持續產生答案，記憶體需求也比許多人想像中低。
看到三十億與三百五十億參數、幾 GB 記憶體和幾倍加速並列，卻很容易把不同口徑混在一起。
模型可以在裝置上執行，還要看資料準備、讀取等待與答案品質，才能知道它是否適合每天使用。
這次更新值得投入小型試點，尤其是需要在自己的裝置處理圖片與文件的開發者。
先弄清楚模型哪些部分放在記憶體、哪些留在儲存空間，才看得懂官方速度展示帶來的改變。
MiniCPM-V 4.7 把哪些工作搬到本機？
本機視覺 AI 的用途，是讓模型在使用者的裝置讀懂圖片或影片，再用文字回答問題，減少每次都把運算交給遠端服務的需要。
OpenBMB 官方專案列出單張圖片、多張圖片、文件與影片理解，這些工作不只需要看見畫面，也要把畫面資訊接到使用者的問題。
例如拍下一張設備說明書，使用者可能要找保養間隔。模型必須辨識文字、理解欄位，再選出對應內容，不能只說照片裡有一張紙。
這種能力稱為多模態，意思是同一個模型處理文字與影像等不同類型資料。這裡的重點是看懂輸入，不代表所有版本都能即時聽、說與看。
兩款模型對應不同資源條件
官方提供 35B-A3B 與 1B 兩款。B 表示十億個參數，參數是模型訓練後儲存的數值，會影響模型容量與部署所需資源。
35B-A3B 的總參數約三百五十億，每次運算啟用的部分約三十億。1B 則是規模較小的選擇，不能只依名稱把兩者當成同一個模型換包裝。
較大版本採用 MoE，也就是把模型分成多組專家，處理每一小段內容時選擇其中部分參與運算。啟用較少，仍要能取得被選到的專家資料。
因此三十億啟用參數不等於只下載三十億參數。不同內容可能選到不同專家，完整模型的儲存需求與當下運算需要分開估計。
較小版本適合先評估資源有限的情境，大版本則可以先看較複雜的文件或推理需求。選擇仍要依自己的任務比較，不能只用參數多寡推定一定較好。
先把想做的事寫成可回答的問題
如果用途是整理商品照片，應指定要辨識的欄位，例如型號、顏色與包裝標示。泛泛要求描述圖片，很難判斷結果能否接到後續工作。
文件工作也需要區分文字抄錄與內容解釋。把一段注意事項抄對，是辨識要求。根據注意事項推論是否能混用某種配件，則增加了推理與判斷。
前者可以對照原圖逐字核對，後者還要確認答案有沒有依據。先拆開任務，才能知道模型失誤發生在看錯字，還是把正確文字解讀錯了。
用途清楚後，就能用相同題目比較兩款模型，也比較本機與雲端流程。這時記憶體與速度才是完成工作需要付出的資源，而非孤立的規格。
三 GB 記憶體與 LES 解決了什麼問題？
大型模型在小裝置上的難題，常是資料送不到運算核心。記憶體裝不下全部專家時，可以把部分權重留在儲存空間，輪到需要它時再讀入。
權重就是模型學到的數值資料。儲存空間能保留較多資料，讀取速度卻可能跟不上運算，因此模型雖然能跑，回答仍會因等待而斷斷續續。
預載專家讓等待與運算重疊
LES 技術文件提出預先猜測下一層會需要哪些專家，先把可能使用的資料讀進來。
LES 是預先安排專家讀取與運算的機制。它讓已載入的必要專家先工作，同時準備其他資料，盡量減少運算停下來等儲存裝置的時間。
預測沒有取代模型原本的選擇。若預載漏掉實際需要的專家，文件說系統仍會載入並執行它，這與固定只用一小組專家來省資源不同。
對讀者來說，這個區別影響品質比較。若加速只是少做了一部分工作，較快不代表完成相同任務。這套設計則試著在保留原有選擇下減少等待。
官方也調整權重的儲存排列與數值表示。把零散讀取整理得更連續，能降低資料搬運負擔，效果因此不只來自某一個排程技巧。
手機記憶體不等於全部部署空間
官方專案把 iPhone 17 Pro Max 的三 GB 記憶體需求與每秒十三個以上 token 並列。token 是模型處理內容的切分單位，與中文字數沒有固定的一比一關係。
這是官方所述裝置配置的能力，還要另外保留模型檔案的儲存空間。讀者不能把三 GB 解讀成整套模型、圖片與應用程式都只佔這麼多空間。
實際部署還有輸入圖片、正在處理的對話與應用程式本身。裝置同時開著其他工作，也可能改變可用記憶體，需在平常使用條件下觀察。
如果只有首次開啟很慢，後續回答較快，可能是模型載入與持續運算的差異。驗收時把兩者分開記錄，會比只寫「這次花了幾秒」更容易定位。
平臺支援也不代表每臺裝置有相同速度。官方列出多種行動系統與晶片，示範數字仍對應特定硬體，使用者需核對適配版本與自己的容量。
五倍加速應該跟哪個基準比較？
加速倍率回答的是某一組設定改動後，比原本快多少。它無法單獨說明你的任務何時結束，還要把硬體、輸入與測量範圍一起保留下來。
官方表格分成不同優化階段
LES 文件使用十一吋 iPad Pro M4、十六 GB 記憶體測試。基準是從儲存裝置讀取專家、未啟用表中優化的配置，解碼速度為每秒 2.97 token。
加入排程與載入優化後為 9.81，再加入分層精度調整為 14.92，完整配置加上推測採樣為 17.39 token。各階段對基準的倍率自然不同。
其中 14.92 約為基準的 5.02 倍，完整配置約為 5.86 倍。這份表格能看出各部分貢獻，不能把最大倍率直接寫成每臺手機都會獲得的效果。
解碼速度衡量開始產生文字後的輸出速度。圖片準備、讀取輸入與首次載入也會花時間，所以它和從送出問題到取得完整答案的時間不同。
官方 X 貼文另提到配對輸出相同。這應留在該比較設定內理解，不能推論不同精度檔案、不同提示與隨機設定在所有任務都逐字一致。
使用者感受還包含答案開始前的等待
拍照後先等十秒才看到第一個字，和立即開始但慢慢產生答案，會有不同感受。前者影響互動是否順暢，後者影響長答案完成多久。
假設工作只需要抄錄一個產品編號，短答案可能更受輸入處理時間影響。若要整理一整頁內容，持續輸出速度才會佔較多時間。
這是兩種任務的比較方式，不是本文的裝置實測。讀者可以先固定問題與答案要求，同時記錄開始等待及完成時間，找到主要瓶頸。
若把回答要求從完整欄位改成一句摘要，時間可能下降，工作卻已經不同。比較速度前先固定哪些資訊一定要保留，才能算相同成果。
速度表提供投入試點的理由，品質則決定它能接哪種工作。文件與照片的細節差異，會影響模型是否能產出你需要的內容。
圖片壓縮與文件辨識如何驗收？
視覺處理會把圖片轉成模型可以使用的內容單位，資料越多，運算越重。官方模型指南提供不同壓縮程度，讓細節與資源之間有調整空間。
模型指南列出四倍與十六倍混合視覺 token 壓縮，這是視覺編碼的處理方式，不是把原始照片隨意縮小後一定得到相同答案。
保留會改變工作結果的細節
產品大字標籤和小字警語，難度可能不同。若只看整體照片描述，模型可能表現順暢，卻漏掉影響使用條件的那一行小字。
可以先挑一組代表性圖片，涵蓋清楚字體、反光、斜拍與表格。每張圖對照來源，只要求能看清的內容，模糊部分應保留缺漏狀態。
不要因句子讀起來通順，就替看不清的字補答案。可把錯字、漏字與自行增加的內容分開記錄，才知道應改善拍攝方式，還是調整模型設定。
多張圖片也要看關係是否正確。例如正面型號與背面規格是否被當成同一件商品，會影響整份資料，而不只是某個字是否抄對。
影片理解需要檢查事件順序
影片任務除了辨識畫面，還要確認事件發生的先後。若問操作流程，漏看一個轉換畫面，可能讓答案把兩個步驟接錯。
驗收可使用已知片段，要求回答事件與對應時間位置。這讓核對者能回到原影片找證據，不必只相信模型寫出的完整故事。
長影片若只問最後結果，容易看不出中間遺漏。可挑幾個影響判斷的轉折，確認模型理解了原因、順序與限制，而非只看到最後一幕。
正式資料前先用低風險素材比較設定，會比較容易知道壓縮對哪些細節有影響。這些結果也能幫團隊選擇大版本、小版本或其他處理方式。
開發者適合怎麼開始 MiniCPM-V 4.7 試點？
試點先選一項固定工作，比同時測所有功能更容易得出結論。可以從產品標籤、文件欄位或短影片問答挑一種，先讓輸入與成功條件穩定。
先建立能重做的比較
記錄模型版本、裝置、設定與輸入素材，再保存問題與原始回答。版本改變後使用同一組題目，才知道結果差異來自哪裡。
模型權重與執行工具是不同部分。官方模型卡提供權重與部署資訊，開發者應依指南選擇相容的工具，不把一般載入範例當成手機優化配置。
本機處理也要看完整應用的資料流向。模型在裝置上運算，不代表程式沒有同步、遠端記錄或其他服務，若在意資料留存，應檢查實際應用設定。
費用比較則把下載、部署、維護與人工核對時間分開。沒有逐次雲端計費，不會讓整項工作自動變成零成本，裝置和管理仍是投入。
若同事只需要每天處理少量固定資料，小版本能否穩定完成，比追求最大參數更值得先看。若複雜內容常失敗，才評估大版本的改善與額外等待。
試點結束時，應能回答哪些輸入可靠、哪些需要人工、哪款設定可接受。這比只留下「跑得動」的展示，更接近下一步能交給誰使用。
延伸閱讀：Rapid-MLX 0.16.0 更新：Mac 本機模型加速，先看實驗設定再看倍數
延伸閱讀：Drex 1.5 開放權重：讓本機模型回傳選項機率，怎麼做客服分流？
MiniCPM-V 4.7 常見問題
三 GB 記憶體等於模型只有三 GB 嗎？
這是官方特定手機配置的記憶體主張。完整專家權重仍需要儲存空間，輸入與執行工具也有資源需求，不能用單一數字概括全部部署。
MiniCPM-V 4.7 能取代雲端模型嗎？
適合先比較固定的圖片與文件工作。是否取代要看自己的品質、速度與維護成本，官方展示不能保證所有任務達到相同結果。
五倍加速是不是每個設定都一樣？
倍率有指定基準與裝置，完整優化也包含多個階段。改用其他硬體、精度或輸入後，應重新量測，保留相同問題與答案要求。
本機執行就一定沒有資料外傳嗎？
需要核對整個應用，而不只模型。同步、記錄與外部工具可能有自己的傳輸，資料敏感時先了解流程，再決定可處理哪些素材。
先證明自己的工作能完成
MiniCPM-V 4.7 將大型視覺模型與行動裝置的距離拉近，值得從一項可核對工作開始比較。它的價值在於減少資源等待，同時保留完成任務所需能力。
先建立小組圖片與固定問題，分開記錄品質、開始等待與完成時間。當結果能穩定符合需求，再把流程交給更多人，才知道本機 AI 帶來了什麼實際改變。
免費訂閱 AI 郵報，持續追蹤本機模型與實際導入方式。
