消息人士稱，OpenAI 研究人員在 CEO 下台前警告董事會人工智慧的突破

作者：Anna Tong 、Jeffrey Dastin和Krystal Hu

2023 年 11 月 23 日下午 5:52 GMT+8更新於 2 天前

OpenAI 工作人員警告董事會新的人工智慧風險：消息來源

11 月 22 日（路透社）——兩位知情人士告訴路透社，在 OpenAI 首席執行官薩姆·奧爾特曼流亡四天之前，幾位研究人員寫了一封信給董事會，警告一項強大的人工智慧發現，他們稱這項發現可能威脅人類。

兩位消息人士稱，先前未報導的信件和人工智慧演算法是董事會罷免生成人工智慧典型代表奧特曼之前的關鍵進展。在周二晚些時候凱旋歸來之前，700 多名員工威脅要辭職並加入支持者微軟(MSFT.O)，以聲援被解僱的領導人。

消息人士稱，這封信是導致奧特曼被解僱的董事會一系列不滿的因素之一，其中包括對在了解後果之前將先進技術商業化的擔憂。路透社無法查看這封信的副本。寫這封信的工作人員沒有回應置評請求。

其中一位知情人士稱，在接受路透社聯繫後，拒絕發表評論的 OpenAI 在給員工的內部消息中承認有一個名為 Q* 的項目，並在周末活動之前致董事會一封信。OpenAI 發言人表示，該訊息由長期擔任高階主管的 Mira Murati 發送，提醒員工注意某些媒體報道，但沒有評論其準確性。

一位知情人士告訴路透社，OpenAI 的一些人認為 Q*（發音為 Q-Star）可能是該新創公司探索通用人工智慧 (AGI) 的突破。OpenAI 將 AGI 定義為在最具經濟價值的任務中超越人類的自主系統。

這位不願透露姓名的人士表示，鑑於龐大的運算資源，新模型能夠解決某些數學問題，因為該人士無權代表該公司發言。消息人士稱，雖然數學成績僅達到小學生的水平，但在此類測驗中取得好成績讓研究人員對 Q* 未來的成功非常樂觀。

路透社無法獨立驗證研究人員聲稱的 Q* 的功能。

“無知之幕”

ChatGPT 製造商OpenAI 的執行長Sam Altman 抵達美國華盛頓美國國會大廈，參加由參議院多數黨領袖Chuck Schumer（紐約州民主黨人）主辦的兩黨人工智慧(AI) 洞察論壇，該論壇所有美國參議員。2023 年 9 月 13 日。路透社/Julia Nikhinson/ 檔案照片取得許可權

研究人員認為數學是生成式人工智慧發展的前沿。目前，生成式人工智慧擅長透過統計預測下一個單字來進行寫作和語言翻譯，而同一問題的答案可能會大不相同。但征服數學能力（只有一個正確答案）意味著人工智慧將擁有類似人類智慧的更強推理能力。例如，人工智慧研究人員認為，這可以應用於新穎的科學研究。

與只能解決有限數量運算的計算器不同，AGI 可以概括、學習和理解。

消息人士稱，研究人員在給董事會的信中指出了人工智慧的能力和潛在危險，但沒有具體說明信中提到的具體安全問題。電腦科學家長期以來一直在討論高度智慧的機器所帶來的危險，例如他們是否會認為毀滅人類符合他們的利益。

研究人員還標記了一個「人工智慧科學家」團隊的工作，多個消息來源證實了該團隊的存在。一位知情人士表示，該小組由早期的「Code Gen」和「Math Gen」團隊合併而成，正在探索如何優化現有的人工智慧模型，以提高其推理能力並最終開展科學工作。

Altman 致力於讓 ChatGPT 成為史上成長最快的軟體應用程式之一，並從 Microsoft 吸引了必要的投資和運算資源，以更接近 AGI。

除了在本月的演示中宣布一系列新工具外，奧特曼上週還在舊金山舉行的世界領導人峰會上開玩笑說，他相信重大進展即將到來。

「在 OpenAI 的歷史上已經有四次了，最近一次是在過去幾週，當我們推開無知的面紗並向前推進發現的前沿時，我已經在房間裡了，並且能夠做到這一點是一生的職業榮譽，」他在亞太經濟合作組織峰會上說道。

一天后，董事會解雇了奧特曼。

(本文轉載自路透社)