LOWN 視覺語言研究:少看幾次同一張圖,能省下多少運算?

LOWN讓擴散視覺語言模型按需要重看圖片。解析99.6%相對分數、35.3%解碼FLOPs、H200計時範圍與快取取捨,說明為何它不是所有VLM通用的加速保證。

Share
LOWN原作者圖以棕熊照片比較每輪看圖、刪除圖像token與按需看圖,並列運算和相對分數圖
LOWN 原作者示意圖,將「每次少讀一些視覺 token」與「減少需要看圖的步驟」分成兩條效率路徑。 圖片來源:官方原文。

AI 回答圖片裡有什麼,不一定需要每寫下一個部分就重新讀完整張圖。LOWN 研究處理的正是這種成本:對某些擴散式視覺語言模型,反覆閱讀不變的圖片佔了大量運算。

KAIST 與 AITRICS 研究者在 2026 年 10 月 27 日公開這項工作,名稱意思是只在需要時看圖。它不重新訓練模型,而是改變生成答案時何時把圖片送回計算。

方法先記住最近一次看圖的預測,再以便宜一些的純文字推理檢查:若預測仍一致,就沿用。若不足以支持下一步,才重新看圖刷新參照。

在 LLaDA-V 的十項測試裡,作者報告保留原模型平均相對分數的99.6%,解碼浮點運算量降到35.3%。這兩個比例分別描述相對品質和計算量,無法直接換成回答正確率或服務費折扣。

這個差別很重要,因為視覺依賴高的圖表和文件仍需反覆讀圖,一致性判斷也不保證每個沿用預測都正確。實際生成秒數還受硬體與實作影響。

從反覆看圖的原因、每一步如何判斷,到分數與計時的不同範圍,這項研究提供了一條比較具體的效率路徑。它能節省什麼,應放在模型種類和任務條件裡一起看。

LOWN 要省掉的是哪一種重複運算?

擴散視覺語言模型會多輪填回被遮住的答案位置,而不是只把下一個字一路接下去。可以先把它想成一段有許多空格的答案,模型反覆預測哪些位置應放入哪些文字,再逐步完成。

文字在計算時會被切成token,也就是模型處理的一小段單位。圖片同樣會變成視覺token,讓模型將視覺特徵和文字問題放在一起判讀。

在作者研究的十個基準裡,圖片佔 LLaDA-V 輸入token的89%至97%。這代表每次完整處理輸入,大部分內容都是同一張沒有改變的圖片,即使目前要決定的文字可能已不再需要重新看它。

這種成本和一般讀者想像的「圖片只看一次」不同。論文討論的是擴散模型的生成流程,不能直接套到所有逐字生成、已經能保留前段計算的視覺語言模型。

刪掉圖片片段,和減少看圖次數不同

既有視覺token刪減方法,會挑掉一部分圖片資訊,讓每次完整計算較便宜。但保留下來的圖片部分,仍可能在很多步驟中被反覆處理,被刪掉的細節也不一定能在後面重新取回。

LOWN 改問另一個問題:這一步到底要不要讀取圖片?如果當下純文字脈絡已足以支持預測,就先省下這次視覺計算。需要時仍能再次查看圖片。

因此,兩種方法不必互相排斥。一種改變每次看多少視覺token,另一種改變有幾次需要看圖。先分清這兩條軸線,才能理解後面為何可以疊加,而不只是換一個刪圖比例。

當圖片不變卻每輪重新處理時,是否需要再看圖就成了可獨立調整的問題。接下來的關鍵,是如何在尚未重看之前,判斷上一次的預測是否仍可利用。

LOWN原作者圖以棕熊照片比較每輪看圖、刪除圖像token與按需看圖,並列運算和相對分數圖
LOWN 原作者示意圖,將「每次少讀一些視覺 token」與「減少需要看圖的步驟」分成兩條效率路徑。 圖片來源:官方原文。
LOWN 原作者以描述棕熊圖片的解碼示範,說明純文字預測和上次看圖結果一致時如何省略重讀圖片;為研究特定範例。 來源:官方原文。

先猜再比對,什麼時候必須重新看圖?

LOWN 用上次看圖的預測作參照,再檢查目前純文字預測能否持續支持它。論文把這份保留下來的預測與信心稱為anchor,可以理解為最近一次看過圖片後留下的參考點。

每一步先做不含視覺token的計算,依參考點原有信心排序,檢查目前純文字預測和先前看圖預測是否一致。它不是只挑一個看起來像的字,而是沿著這個順序看能連續支持多少位置。

若一致的部分足夠完成這一步,系統就沿用參照預測,甚至一次填回比原本更多的位置。若一致部分不足,就重新做含圖片的完整計算,並用新結果換掉舊參照。

「證書」不是答案正確的形式證明

論文以certificate描述這項一致性條件,指的是演算法找到一個可沿用預測的判斷訊號。它不代表答案經過外部事實查核,也不是數學上證明這些文字必然正確。

作者實際比較過,若此時仍執行新的完整看圖計算,部分沿用文字會得到不同預測。在 LOWN 自己的生成過程中,這類差異約佔被純文字步驟接受位置的2.2%至4.7%,依任務而異。

這個比例測的是和另一個完整計算的預測是否不同,不等於最後答案的錯誤率。兩次預測不同時,仍需回到任務評分才知道哪個結果更有用,不能再把中間一致率當成事實正確率。

參照也會隨後續答案改變而變舊,所以演算法在重新看圖時會整份更新。這使它能回到圖片刷新資訊,而不是把最初看見的內容永久當成不需再檢查的答案。

一致性是節省計算的判斷依據,沒有替每個答案提供正確性證明。理解這一點,才不會把效率研究讀成另一種可以消除幻覺的保證。

99.6%分數與35.3%FLOPs如何解讀?

99.6%是十項任務各自相對原模型的分數再平均,35.3%則是解碼計算量。FLOPs指浮點運算次數,可以用來估算演算法執行多少數值計算,和秒數或付款金額是不同量。

以一個假設任務為例,原模型得五十分,加速後得四十九點八分,保留的相對分數就是99.6%。這是本文解釋比例的假設,不代表該任務接近百分之百答對,更不是論文每一項任務都剛好得到這個差距。

實際平均也包含部分高於原模型的項目。作者指出,十項中有四項加速後分數較高。若把每項超過100%的提升先截在100%,避免提升抵掉其他項目下降,再平均則為98.6%。

這個補充使取捨更清楚:平均接近原模型,不表示每個任務都無損。模型在少數項目高出一些,也不能保證其他項目需要的視覺細節沒有受到影響。

文件和圖表不一定能同樣省

需要反覆讀取視覺細節的工作,通常比較難省掉完整看圖計算。論文提供一個文件問答例子,要從表格中找數字,LOWN 在十五步中有十四步都重新讀圖,計算量仍為原本的九成。

這個特定輸入答對了,卻沒有得到整體平均同樣大的節省。對文件處理開發者而言,它說明了為什麼不能先把35.3%當成每一頁資料的固定預算。

視覺token刪減可以和LOWN組合,讓一次看圖較便宜,再減少看圖次數。但組合後也有自己的分數與成本。不能從不同實驗各取一個最好數字,再宣稱同時得到全部優點。

這組結果說明平均取捨有吸引力,卻不代表每項工作都沒有品質損失。部署者真正需要對照的,仍是自己的輸入有多依賴圖片,以及那些細節能否被保留。

為何省運算不會一比一變成省時間?

實際等待時間除了浮點計算,還包含步驟安排、快取與硬體執行成本。LOWN 每一步先做純文字預測也有成本,遇到需要重新看圖時,這段檢查不會憑空消失。

論文另外量測真實生成時間,在十項 LLaDA-V 測試中,單獨使用 LOWN 平均減少57.4%,最多減少73.2%。這些是原作者在特定環境的結果,和解碼計算量剩35.3%不應混成同一個數字。

計時範圍也要留下來

附錄說明,LLaDA-V計時在同一部使用H200顯卡的伺服器上進行,每張顯卡同一時間只跑一個實驗,每次處理一個樣本。計時包含生成呼叫內的視覺準備與編碼,不含模型載入與結果評分。

FLOPs的統計範圍則集中於解碼器、輸出層和方法額外需要的矩陣計算,和計時涵蓋範圍不同。這個差別本身,就足以說明兩個比例不必相等。

此外,模型載入對初次請求很重要,評分也可能影響完整評測多久跑完,但它們不在這個生成計時裡。比較工作流程時,要先知道自己想衡量的是使用者等待,還是整套離線評估的總時間。

快取疊加有速度,也有品質取捨

快取是暫存先前計算、避免後續重做的方法。作者把LOWN接到Fast-dLLM快取上,在三項測試中,相較快取本身再減少38.1%至50.1%生成時間。

組合也不是免費保留所有分數:這三項結果都低於只用Fast-dLLM,其中LLaVA-Bench下降五點。若只引用相對原模型快5.6至7倍,卻省略比較基準和品質變化,讀者就看不到完整交換條件。

因此,部署時必須把相同任務的品質和實際秒數一起比較,不能直接拿FLOPs當費率折扣。模型服務供應商怎麼定價也不是這篇研究的實驗,無從承諾帳單會按比例下降。

這條路可以接到哪些模型,邊界在哪裡?

作者在幾種擴散視覺語言骨幹測試同一規則,也研究與刪減視覺token及快取疊加。除了LLaDA-V,論文還有LaViDa與VidLaDA的控制實驗,後者延伸到影片理解。

這些結果讓方法不只停在一個展示輸入,但受測系統仍有共同的擴散生成背景。不能因為名稱都叫視覺語言模型,就推定所有逐字生成的自回歸模型或現成聊天服務都能直接套用。

「不需訓練」描述的是沒有為這個方法額外更新模型參數,不代表沒有整合工作。開發者仍要把完整與純文字計算、參照更新和文字接受規則接進推理程式,並確認和既有快取如何配合。

方法的節省還會依實際輸入改變。因為是否重新看圖要在生成途中決定,不能在看到問題之前就保證每次只花固定35.3%的計算,也不能用固定步數一概代替它的判斷。

以一個假設的文件系統為例,描述封面可能和讀取密集表格需要不同程度的視覺依據。這是依研究機制推導的比較方向,並非本刊完成的部署或效能測量。

若開發者把兩類工作混成一個平均值,便可能忽略最需要精讀資料的部分。較有用的觀察是,哪些輸入頻繁觸發完整看圖,這些輸入是否仍答對,以及節省有沒有出現在真正影響等待的步驟。

這支持一條可延伸的推理研究方向,仍不能推成所有聊天產品都可直接加裝。價值在於把「何時需要圖片」變成一個可測試的設計決定,而非預設圖片每次都必須完整重讀。

LOWN 常見問題

使用LOWN後,就完全不用再看圖片嗎?

不是。它先以純文字預測檢查上次看圖的參照,條件不足時仍會重新讀圖。文件或圖表依賴較高的輸入,可能在大多數步驟都需要完整計算。

保留99.6%,代表回答正確率99.6%嗎?

不代表。這是十項任務相對原模型分數的平均,原模型本來也可能答錯。個別任務有升有降,不能把相對保留比例變成所有題目的絕對正確率。

不需訓練,代表沒有任何改動就能用嗎?

不能這樣理解。研究省掉的是額外訓練模型的需求,推理程式仍要整合方法。是否和特定模型、快取與部署環境相容,應看實際實作及測試條件。

可以讓所有視覺聊天產品快七倍嗎?

論文沒有這項通用保證。5.6至7倍是特定快取組合相對原模型的結果,還伴隨分數取捨。對其他模型或服務,需要另外證據,不能直接移用。

延伸閱讀

原始資料來源

想持續看懂模型推理效率、視覺理解與評測條件,歡迎免費訂閱 AI 郵報。