Anthropic 新觀點談 AI 科學建模，找到最貼合資料的答案後還缺什麼？
Anthropic 在 11 月 6 日刊出 AI 科學建模客座文章，由圖賓根的三位研究者討論AI如何參與建構模型、調整參數與解讀結果。 我認為這個觀點對使用AI分析資料的人很實用。當決定會影響後續實驗，除了問最佳答案，也應問哪些替代解釋仍然站得住腳。
AI 可以找出一條貼近資料的曲線，但研究者還想知道，這條曲線為什麼合理，以及換個條件後會不會失效。兩個問題影響的是科學理解能走多遠。
Anthropic 在 11 月 6 日刊出 AI 科學建模客座文章，由圖賓根的三位研究者討論AI如何參與建構模型、調整參數與解讀結果。
這是一篇新觀點文章，整合既有方法與研究案例。它的焦點是科學模型該交付什麼，而非宣布一個全新的通用模型。
作者主張，最貼合資料的單一答案可能藏起其他同樣合理的解釋。保留多種候選與不確定性，才有機會知道下一個實驗應該排除什麼。
我認為這個觀點對使用AI分析資料的人很實用。當決定會影響後續實驗，除了問最佳答案，也應問哪些替代解釋仍然站得住腳。
這個差異可以從一個神經細胞模型看起，因為它的科學價值，來自當年研究者知道哪些簡單版本行不通。
AI 科學建模，為什麼貼合資料還不等於理解？
同樣的觀測結果可能對應多種參數與模型，因此單一最佳答案未必能辨認機制。三位作者的完整文章用神經細胞的歷史案例，把這個差異說得很具體。
科學模型是用方程、程式或規則描述現象的工具。例如細胞受到電流刺激後如何產生訊號，研究者可以把膜與通道視為電路，再用模型預測變化。
1951年，Hodgkin與Huxley建立神經細胞電活動的方程。當時電腦無法使用，Huxley花了數週手算，檢查方程能否重現實際測量。
其中一個變數要取四次方，才比較能吻合資料。這個形式最初並非從已知結構直接推導，研究者是在測試較簡單版本失敗後，選出能解釋資料的形式。
排除過什麼，也是模型的一部分
作者強調，如果只知道四次方能配出漂亮曲線，仍不足以理解細胞。價值來自研究者同時知道，更簡單的版本為什麼不夠，以及模型對尚未觀察的情況做了什麼預測。
後來離子通道的結構研究，為四個部分共同作用的想法提供了脈絡。這是一段歷史案例，說明模型可能帶來可檢查的機制推測，並非AI在本篇新發現了離子通道。
文章把科學建模分成建構、限制參數與解讀三個工作。建構決定方程長什麼樣子，限制參數用測量縮小數值範圍，解讀則問結果對真實系統意味著什麼。
這三段工作會反覆往返。參數怎麼調都對不上資料，可能表示模型結構有問題。結構能對上資料，卻產生不合理推論，也可能需要重新檢查假設。
如果答案存在多種可能，調整參數的方法就得把這些可能性保留下來。
以模擬為基礎的推論，如何保留多組合理參數？
先反覆模擬再學會反推參數，能讓研究者看見一個範圍，而不是只有一組數字。這個範圍保留資料還不能確定的部分，讓模型不至於看起來比證據更有把握。
參數是模型裡可調整的數值，例如某種通道在不同電壓下開啟的速度。同樣的細胞電活動，可能由不同參數組合產生，因此找到一組合適值，不會自動排除其他組合。
總帳相同，點餐方式可能不同
作者用一桌餐費作比喻。只知道總共花了多少錢，無法唯一反推出每個人點什麼，因為不同組合可能得到同一張帳單。
模型也一樣。單一最佳參數把其他可行組合藏起來，但那些組合在新情境下，可能給出不同預測。如果後續決策只依其中一組，就會忽略資料留下的歧義。
貝氏推論會把符合程度與先前知識一起考慮，產生參數的機率分布。分布可以理解為哪些數值較合理、哪些仍有可能，保留的是不確定性的形狀。
然而複雜模型往往很難直接計算，每一組參數產生目前觀測的可能性有多高。變數很多、含有隨機過程時，逐一列舉所有路徑就不切實際。
先往前跑，再學反方向的關係
以模擬為基礎的推論，英文簡稱SBI，改用很多組參數先跑模型，記錄各自產生的結果。再讓神經網路學習看到某種結果時，哪些參數組合比較可能產生它。
這個方法只需要模型能往前執行，參數進去、模擬資料出來。它不要求研究者先寫出一個能直接反算所有可能性的公式，因此能處理較複雜系統。
文章舉神經細胞模型可能需要約十萬次模擬，更大的系統可能需要更多。這是說明計算規模的案例，沒有把十萬次規定成每項SBI研究的固定門檻。
大量模擬可能花很久，但訓練完成的網路能對新資料較快推論。這把部分成本移到前面的準備工作，所以不能只看後端幾秒出結果，就忽略建立方法時的資源。
參數可以有分布，模型本身的結構也可能有多種同樣合理的選擇。
AI 能寫出候選模型，為什麼還要保留其他版本？
多個候選之間的一致與分歧，可以指出哪些結論由資料支持，哪些仍依賴建模選擇。如果只交回一個看起來最佳的版本，研究者就很難知道結果有多穩固。
文章整理近年代理建模的共同流程。研究者提供資料與自然語言描述，代理提出候選程式、執行模型、調整參數，再把結果與觀測比較，之後修改方程或規則。
這讓提出模型不再只靠人類一次想到幾種形式，搜尋範圍可能擴大。但搜尋得多，也更需要保留選擇依據，否則會出現許多都能解釋既有資料的答案。
最佳擬合可能只是其中一條路
同一批資料跑兩次代理，可能得到兩個不同、卻一樣貼合的模型。這未必表示其中一個一定錯誤，也可能反映資料本來就沒有提供足以區分它們的資訊。
作者因此建議，像處理參數分布一樣，保留多種合理模型。依資料支持程度給不同權重，再產生新的候選，避免把搜尋最後挑出的單一版本當成唯一真相。
模型很靈活時，可能把已知資料配得很好，卻沒有提出簡潔有力的解釋。因此，評估還要看它為了符合資料用了多少自由度，而不是只比最後誤差。
這個原則也能幫助判斷共同特徵。如果多種仍合理的模型都需要某個機制，該機制就較值得進一步研究。如果它們只有其中一種需要，結論就更依賴選擇。
留下失敗候選，才能看見證據的作用
被排除的版本也有研究價值。它說明資料究竟反對哪種假設，讓後續人員可以理解模型為什麼長成現在這個樣子，而非只拿到一份成品程式。
這也回到神經細胞的例子。四次方之所以有解釋力，是因為較低次方沒有同樣表現，而不只是因為研究者喜歡那個數字。
但保留候選不等於已窮舉所有可能模型。模型空間非常大，搜尋方法與先前假設仍會決定看到哪些版本，因此模型集合本身也需要記錄來源與範圍。
這些分歧只有轉化成能檢查的預測，才會幫助研究者設計下一次實驗。
如何把模型分歧轉成下一個可檢查的問題？
好的科學解讀會指出改變條件後可能發生什麼，讓不同解釋接受新的證據。這讓模型比較從「誰最像已有資料」往前走到「下一次觀測能排除誰」。
例如幾個模型都能重現細胞原本的電活動，研究者可以問，若阻擋一部分通道，結果會怎麼變。原本幾乎相同的曲線，可能在這個介入條件下產生差異。
如果所有合理模型都預測同樣結果，結論對模型選擇比較穩固。如果它們開始分歧，這個分歧就能幫忙挑出更有辨識力的實驗。
介入預測比漂亮說明更容易檢查
一段流暢的解釋可能聽起來合理，卻沒有指向可觀察差異。介入預測則要求模型承擔具體結果，讓研究者有辦法用新資料比較。
文章提出，把理解能力放在系統受擾動後的預測上，是一個可能方向。另一種方法則問，AI提供的結構能否幫助人類研究者理解問題，而非只看AI自己說懂不懂。
量子實驗設計的案例就使用能產生一整族設計的短程式。人類可以從程式裡讀出共同原則，比只拿到一張複雜的實驗配置，更容易看出設計為何成立。
這些是文章整理的既有研究方向，沒有在這篇客座文章裡建立一個通用的理解分數。因為「能擬合多少資料」容易計分，「是否帶來理解」的目標更難定義。
原始資料與新實驗各自提供不同資訊
既有資料先縮小合理模型的範圍，新實驗則進一步排除仍無法區分的版本。這個循環讓模型輸出可以改變研究安排，而不只是把舊資料重述一次。
因此，最有用的實驗可能是能排除最多剩餘解釋的實驗，不一定是最符合人類直覺或最容易畫出漂亮結果的那一個。
這種選擇仍需要考慮可操作性。即使某個理論介入能清楚區分模型，現場未必能精確做到，所以研究者還要把模型問題轉成實際能取得的資料。
當系統規模變大，這個原則也能讓研究者在無法直觀看懂全部方程時，仍抓住有用的結論。
從單一神經細胞到大腦，這篇觀點有哪些邊界？
大型模擬讓更多問題可被研究，但模型集合的共同特徵，比挑出一個唯一正解更值得檢查。因為系統愈複雜，資料通常愈難把所有自由度固定住。
文章以果蠅神經連接圖為例，說明研究者開始把大規模線路資料接進模型。模型可以提出哪些連線影響行為等問題，但不表示一份接線圖已經完全決定所有生物功能。
原文示意圖呈現從一個神經元到124,635個細胞的規模。它用來說明建模範圍擴大，並不是本篇宣布AI新發現了整個果蠅大腦。
系統愈大，解讀方法也要改變
小模型可以靠幾條方程理解，大模型則可能需要找出少數關鍵機制，或比較多個版本在新條件下是否給出一致預測。能執行的模型，不一定能被一眼看懂。
這種情況在氣候模擬裡已很熟悉。研究者使用不同假設的模型集合，呈現預測分布，而非選一個版本就宣布未來只會有一種結果。
作者也提醒，近年的代理建模系統多半仍在重現已知模型。對沒有已知答案的新問題，有效性的證據還比較少，因此不能從成功重現歷史直接推導自主科學已成熟。
這個限制沒有抹去方法的用途，反而指出下一個需要的證據。要看代理提出的新模型，是否能透過新資料、新介入或他人重現，支持超出原本觀測的預測。
交付材料要包含建構過程
如果研究助理只交回程式與最低誤差，接手者很難知道哪些選擇由證據決定。保留嘗試過的模型、排除理由與參數不確定性，才能把搜尋過程轉成可延續的研究。
這也適用一般資料分析。多種解釋都能描述過去銷售變化時，直接選最好看的曲線，未必有助於規劃下一次活動。比較新條件下的不同預測，才知道還缺什麼證據。
延伸閱讀：EurekaBench 是什麼？AI 預測接近人類，科學洞見仍有落差
延伸閱讀：Anthropic 分析二十萬筆科學工作對話，研究者如何使用 Claude？
保留建構過程、替代模型與可驗證預測，才是AI建模能交給研究者的完整研究材料。
AI 科學建模常見問題 FAQ
AI 科學建模文章宣布新模型了嗎？
這是三位研究者的新客座觀點文章，整理既有方法與案例，沒有宣布新的通用模型或把引用論文當成當日首發。
模型分布代表所有答案都一樣好嗎？
合理候選仍依資料支持程度有不同權重。保留分布是呈現證據尚未排除的可能性，不是讓沒有依據的答案取得相同地位。
模擬推論等於直接找到因果關係嗎？
它是在指定模型與假設下，尋找能解釋資料的參數。要辨認機制，仍需要替代模型、介入預測與新證據支持。
一般資料分析也能用這個觀點嗎？
當多種解釋都能描述既有資料時，可以比較它們在新條件下的預測差異，再決定應補哪些資料，而不只選擬合最好的版本。
結論
這篇觀點把AI科學建模的交付要求拉得更完整。研究者需要的除了能跑、能配資料的答案，還包括哪些替代解釋被排除，以及哪些問題仍留著。
使用AI分析資料時，可以從一次重要結論開始，追問合理替代模型、參數範圍與可區分它們的新觀測。這樣才能把模型產出接回下一次真正有用的研究工作。
