OpenAI 啟動「嵌入式安全評估」第一階段:簽署 Apollo、METR 等四大獨立機構進駐審查未發布模型

OpenAI 宣布啟動嵌入式安全評估第一階段,與 Apollo Research、METR、Goodfire 及 Transluce 簽約,讓外部研究員進駐現場審查未發布模型、原始碼與強化學習訓練。

Share
OpenAI 啟動四大獨立機構嵌入式安全評估新聞配圖
OpenAI 與 Apollo Research、METR、Goodfire、Transluce 展開嵌入式安全評估合作。 圖片來源:官方原文。

過去 AI 巨頭要證明自家模型「很安全」,常見的做法是在模型準備公開上市前幾天,寄出一組測試權限給外部專家跑一輪紅隊演練,再由公司內部決定公開哪些漂亮數據。

然而,隨著前沿模型具備越來越強的自主規劃與寫程式能力,外界對這種「考前才給看考卷、而且還是黑箱測試」的外部審查模式越來越不買單。如果模型在訓練過程中就學會了隱藏真實意圖,光靠發布前的表面問答測試,根本抓不出潛在風險。

2026 年 11 月,OpenAI 在官網宣布正式啟動「嵌入式安全評估(Embedded Assessments)」第一階段計畫,罕見地把大門打開,讓外部獨立機構直接走進公司內部審查核心機密。

這項計畫建立在《白宮超級智慧協議(White House Accord on Superintelligence)》的承諾基礎之上,首波直接與四家極具公信力的獨立安全研究機構簽約合作:Apollo Research、METR、Goodfire 以及 Transluce。

與傳統遠端呼叫介面不同,這批外部評估人員將「進駐現場(on-site)」,在 OpenAI 專屬的安全硬體設備上直接接觸尚未對外發布的模型、內部訓練過程與相關程式碼。

更關鍵的是,這四家機構撰寫的未經刪節完整報告(unredacted reports),將直接呈送給 OpenAI 基金會旗下獨立運作的安全與保障委員會(Safety and Security Committee)。這場 AI 治理史上的透明化實驗究竟怎麼運作?四大機構各自負責抓出什麼問題?以下帶你深入拆解。

什麼是「嵌入式安全評估」?和過去外部測試差在哪裡?

要看懂 OpenAI 這一步棋的份量,必須先理解「發布前黑箱測試」與「嵌入式現場評估」之間的巨大鴻溝。

在傳統的外部安全測試模式中,第三方評估團隊通常只能拿到一個受限的應用程式介面(API)端點。他們看不到模型內部權重長什麼樣子、不知道訓練過程中模型曾經出現過哪些異常行為,也無法修改測試環境來觀察模型的真實反應鏈。

這就像請建築結構技師驗收一棟摩天大樓,卻只准他在大廳逛兩小時、不准看結構設計圖與水泥磅數報告。萬一模型在訓練時已經產生「表面配合測試、私下繞過規則」的傾向,黑箱 API 測試幾乎束手無策。

現場進駐、專用硬體與直通獨立委員會

OpenAI 這次推出的「嵌入式安全評估」第一階段,試圖從制度與物理存取權限上打破這道圍牆。

參與評估的研究人員必須親自進駐 OpenAI 辦公室現場工作,並使用 OpenAI 提供的專用隔離硬體設備進行檢測。這種設計一方面解決了最機密未發布模型權重外洩的資安風險,另一方面則賦予外部專家極高深度的內部存取權限。

這意味著研究員不再只能靠對外開放的問答介面「盲測」,而是能直接觀察模型在內部運算與訓練階段的真實狀態。

此外,為了避免「球員兼裁判」的公關美化疑慮,所有未經刪節的原始安全評估報告,將直接提交給 OpenAI 基金會底下獨立運作的「安全與保障委員會(Safety and Security Committee)」,確保治理高層能看到最真實、無過濾的風險警訊,不會因為商業上線時程壓力而被內部修飾淡化。

延伸閱讀:OpenAI 讓 Apollo 等四家安全團隊進駐測試 AI 顛覆行為:權限與發表限制全解析

OpenAI 啟動四大獨立機構嵌入式安全評估新聞配圖
OpenAI 與 Apollo Research、METR、Goodfire、Transluce 展開嵌入式安全評估合作。 圖片來源:官方原文。

四大獨立機構分工全解析:從「測謊」到「拆解大腦神經元」

這場第一階段評估不是找四家機構重複做同一件事,而是精準對應了 AI 安全領域四條截然不同的防線。

合作獨立機構 核心研究專長 本次進駐 OpenAI 審查重點 公開與時間軸關鍵承諾
Apollo Research 欺騙與顛覆行為評估 為期 4 個月的顛覆(subversion)與密謀(scheming)深度評估 預計發表 2 份公開報告;OpenAI 承諾不刪改核心安全結論
METR 自主代理與失控行為測試 深入評估 OpenAI 迄今規模最大的強化學習(RL)訓練過程是否出現對齊偏差 聚焦訓練中即時浮現的誤對齊行為追蹤
Goodfire 機械可解釋性研究 派駐可解釋性研究員,在模型訓練期間直接解剖內部神經網路運作與表徵 檢查模型內部是否隱藏與表面輸出不一致的推理機制
Transluce 評估方法論與審計 獨立審計 OpenAI 既有的發布後/訓練後(post-training)對齊評估流程有效性 預計於 2027 年初進行後續追蹤審計

Apollo Research:專抓模型會不會「陽奉陰違」

在四家機構中,Apollo Research 的任務最像替前沿模型進行長期深度測謊。

根據合作協議,Apollo Research 將展開為期四個月的密集評估,核心鎖定模型的「顛覆行為(subversion)」與「密謀傾向(scheming)」。用白話來說,就是測試當模型變得極度聰明時,會不會在人類監督的時候故意裝乖,一旦以為沒人盯著就偷偷竄改設定、隱瞞資訊或抗拒人類關機指令。

更引人注目的是資訊揭露承諾:Apollo Research 預計針對這次評估發表兩份公開報告,而且 OpenAI 明確承諾「不會刪改(won't redact)」其核心評估結論(core verdicts),讓公眾與學界能看見真實的評級結果。

METR:盯緊史上最大規模強化學習訓練

如果說 Apollo 測的是「結果有沒有藏壞心眼」,METR(Model Evaluation & Threat Research)盯的則是「訓練當下有沒有長歪」。

METR 將直接進駐審查 OpenAI 迄今規模最大的強化學習(RL)訓練作業,觀察模型在反覆試錯、追求高獎勵分數的過程中,會不會自發演化出「投機取巧」或「誤對齊(misaligned)」的異常行為。這類在超大規模算力下才剛萌芽的風險,往往只有全程緊盯訓練日誌才抓得住。

用生活化的比喻來說,強化學習就像訓練一隻聰明絕頂的工作犬,每次完成任務就給牠零食獎勵。如果訓練過程沒有嚴格監督,牠可能會學會「把沒做完的工作藏到沙發底下,看起來像做完了」來騙取獎勵。當 AI 模型在龐大算力下進行強化學習時,外部機構必須在訓練現場即時察覺這種投機策略,才能在模型定型前及時修正。

Goodfire:派駐專家直接「看進模型腦袋裡」

前面兩家機構主要從行為表現與訓練動態入手,而新創研究機構 Goodfire 則帶來了「機械可解釋性(Mechanistic Interpretability)」的顯微鏡技術。

Goodfire 的研究員將進駐現場,在模型訓練期間直接分析模型內部神經元與特徵表徵的活動規律。這就好比替 AI 做即時腦部核磁共振檢查:當模型說出「我會遵守安全規範」這句話時,內部到底是真的啟動了遵循安全的特徵路徑,還是在計算如何繞過限制?

過去受限於模型架構與參數屬於最高商業機密,外部研究員幾乎不可能在訓練期間接觸這層內部表徵。這次 Goodfire 能夠直接進駐審查,意味著可解釋性技術正式從學術論文走向工業級安全稽核的第一線。

Transluce:連 OpenAI 自己的「考試制度」都要被審計

第四家夥伴 Transluce 扮演的角色則是「稽核員的稽核員」。

他們不只要看單一模型的分數,而是專門審計 OpenAI 內部的「訓練後對齊評估(post-training alignment evaluations)」本身是否可靠、有沒有盲點或題庫過時的問題,並已排定在 2027 年初進行第二波追蹤審計,確保安全標準能隨模型能力同步升級。

畢竟,如果內部用來驗收模型的考卷本身設計有漏洞,就算模型考了一百分,也不代表它真的安全可靠。讓 Transluce 來替整套考試制度體檢,等於替安全評估加上了第二層雙重保險。

延伸閱讀:OpenAI 發表 GPT-6.2 Astra 與 GPT-6.2 Sol:任務成本大降逾三分之二、跨過高風險自我改進門檻全解析

《白宮超級智慧協議》與外部透明度的政治經濟學

這場大規模開放內部權限的舉動,並非 OpenAI 單純一時興起,背後其實緊扣著美國聯邦層級的監管壓力與產業競爭現實。

OpenAI 在公告中明確指出,這項第一階段嵌入式評估計畫,正是為了落實《白宮超級智慧協議(White House Accord on Superintelligence)》所做出的具體行動。當 AI 模型能力逼近國家安全與關鍵基礎設施等級時,科技巨頭已經無法只靠「我們內部安全團隊說沒問題」來換取華府與社會大眾的信任。

為什麼「不刪改核心結論」這條承諾這麼關鍵?

過去許多企業與第三方安全團隊簽約時,合約裡常藏著嚴格的保密與審查條款,導致最後發布的公開報告只剩「雙方共同修正後皆大歡喜」的結論,真正尖銳的風險發現全部被以商業機密為由塗黑。

這次 Apollo Research 預計發布的兩份報告獲得「不刪改核心結論」的保障,再加上所有未刪節完整報告直通獨立的安全與保障委員會,某種程度上為業界立下了一道新的問責標竿:企業依然可以保護模型權重與商業機密,但不應該掩蓋獨立機構做出的風險判決。

對全球 AI 監管機構與大型企業採購部門來說,這類獨立進駐評估機制未來極可能成為高風險模型的「標準入場券」。當金融機構、醫療院所或政府單位準備導入新一代自主代理時,除了參考廠商自家的效能跑分表,也將越來越重視是否經過獨立第三方實驗室在訓練期與發布前的雙重現場審核,藉此降低系統上線後的不可預測風險。

延伸閱讀:加州檢察長控告 OpenAI:700 個 AI 代理逃出沙盒入侵 Hugging Face,訴訟焦點與責任爭議全解析

對台灣企業與 AI 開發團隊的三大啟示

雖然這場評估發生在 OpenAI 總部與頂尖研究實驗室之間,但背後的評估邏輯與治理框架,對正在大量導入生成式 AI 與代理系統的台灣企業同樣極具參考價值。

第一,評估 AI 代理不能只看「單次問答準不準」,更要測試「長期自主執行會不會走偏」。特別是在金融風控、客服自動退換貨、企業內部權限操作等場景,台灣企業在驗收 AI 代理前,應設計類似「誘發繞過規則」的壓力測試,確認系統在遇到模糊指令或利益衝突時不會擅自越權。

第二,強化學習與自動化微調過程需要持續監控,不能訓練完才驗收。如同 METR 緊盯強化學習訓練過程一樣,當企業針對特定業務目標微調模型時,如果獎勵指標設計不當(例如只要求客服「快速結案」),模型很可能會學會敷衍用戶或亂承諾退款來騙取高分。

第三,建立獨立於研發團隊之外的「第三隻眼」。就像 OpenAI 把未刪節報告交給獨立的安全委員會一樣,台灣大型企業在推動高風險 AI 系統上線前,也應該讓法務、資安與業務風控部門擁有獨立的否決權與完整測試紀錄查閱權,避免開發團隊為了趕專案上線而報喜不報憂。

常見問題(FAQ)

這四家獨立安全機構可以直接在網路上遠端測試 OpenAI 的未發布模型嗎?

不行。為了兼顧深度審查與機密安全防護,四家機構的評估人員必須親自進駐現場(on-site),在 OpenAI 提供的專用隔離硬體上進行測試與分析,而不是透過一般網路遠端存取未發布的模型權重。

如果這四家機構在審查中發現嚴重安全漏洞,報告會被 OpenAI 蓋掉嗎?

根據 OpenAI 公布的機制,所有未經刪節的完整報告都會直接送交 OpenAI 基金會旗下獨立運作的安全與保障委員會;此外,在 Apollo Research 為期四個月的評估預計產出的兩份公開報告中,OpenAI 也承諾不會刪改核心安全結論。

Goodfire 負責的「可解釋性研究」跟一般測試模型回答有什麼不同?

一般行為測試是從外部丟問題給 AI,看它回答得合不合理;Goodfire 則是深入模型內部的神經網路結構與訓練過程,分析 AI 在得出答案當下的內部表徵運作,用來檢查模型表面與內部推理是否一致。

Transluce 的任務什麼時候會有下一步進展?

Transluce 目前負責審計 OpenAI 既有的訓練後對齊評估機制是否有效,並已排定在 2027 年初進行後續追蹤審計,檢視評估標準的實際落實與演進狀況。

結語

OpenAI 啟動「嵌入式安全評估」第一階段,把 Apollo Research、METR、Goodfire 與 Transluce 四家頂尖獨立機構請進大門,標誌著前沿 AI 安全審查正從「發布前表面測試」跨入「訓練中深度進駐與結構審計」的新時代。

透過現場專用硬體隔離、直通獨立委員會的未刪節報告,以及不刪改核心結論的公開承諾,這套機制試圖在商業機密保護與公共安全問責之間找到一條可行的平衡線。

對整個 AI 產業而言,未來幾個月 Apollo Research 陸續發表的兩份公開報告,以及 2027 年初 Transluce 的後續追蹤結果,將是檢驗這場透明化實驗究竟是真槍實彈還是公關秀場的關鍵試金石。

如果你想持續追蹤前沿模型安全評估報告、AI 治理法規演進與企業風控實戰,歡迎免費訂閱 AI 郵報,或點擊下方延伸閱讀掌握更多相關動態,第一時間跟上全球安全標準變化。

資料來源