Sam Altman談OpenAI離職潮:AI人才戰為何也是組織信任的考驗?

Sam Altman在Raj Shamani訪談談OpenAI人員流動與反對意見。從10月30日申訴政策更新、基金會控制權到團隊決策,解析AI人才戰背後的組織信任。

Share
Sam Altman On AI Revolution, Superintelligence & Future Of Humanity | FO583 Raj Shamani官方影片縮圖
官方影片縮圖,來源:Raj Shamani。 圖片來源:原發布頻道。

當AI公司的關鍵研究者離開,外界很容易把故事縮成薪水、權力或誰跟誰不合。但同一個離職動作,可能來自不同選擇,單靠名單無法判斷組織出了什麼問題。

11月3日上架的Raj Shamani訪談裡,Sam Altman談到OpenAI的人員流動,也談到領導者如何面對反對意見。這是當事人的說法,仍需要與公開制度放在一起看。

因為AI研究的分歧,不只影響下一項產品。當研究者對風險、速度與資源有不同看法,公司能否讓意見進入決策,會影響合作關係能維持多久。

該公司在10月30日更新員工提出疑慮的政策,新增可直接向基金會董事會安全委員會反映AI安全疑慮的管道。這讓訪談中的信任問題,有了可以檢視的制度背景。

但有管道和能放心使用是兩件事,制度公告也無法替每一宗離職解釋原因。讀者更需要分清,哪些是公司承諾,哪些是外界目前還看不到的執行結果。

看AI人才戰,最有用的線索是組織如何保護不同意見、分配決策權並承擔後果。這比把每一次人事異動當作勝負,更能判斷一家公司能否長期做研究。

Sam Altman談離職,哪些話不能當成全部真相?

這段訪談提供的是Altman對人員流動的解釋,不能代表所有離職者的立場。

在原訪談約41分26秒,主持人把數名離開或另行創業的人放在一起,追問他們究竟在什麼地方意見不同。

Altman的回答是,當事情的重要性高到這個程度,有些人可能只相信自己能把它做好。他把方法上的分歧與對權力集中的擔心,連結到信任問題。

這能幫助理解他的思考方式,卻不足以替個別當事人作答。不同人離開的時間、職務、處境與公開理由各異,不能因為被放在同一道問題裡,就推定有共同動機。

因此,閱讀這類訪談時,應先確認說話者是在描述自己的經驗,還是在解釋別人的行為。前者是一手陳述,後者仍包含他的判斷。

假如讀者正考慮加入AI公司,離職名單可以提示要追問的問題,但難以直接提供答案。更有用的是確認,研究方向出現爭議時,團隊有沒有正式討論與調整的空間。

對產業觀察者也是如此。一家公司有人離開,可能失去關鍵能力,也可能出現新的研究路線。結果需要時間與後續成果才能判斷,不能只看某一日的人事消息。

要判斷分歧能不能留在公司內解決,接著得看反對意見如何被接住。

Sam Altman On AI Revolution, Superintelligence & Future Of Humanity | FO583 Raj Shamani官方影片縮圖
官方影片縮圖,來源:Raj Shamani。 圖片來源:原發布頻道。
完整原始訪談,來源:Raj Shamani。 觀看原始影片。

為什麼AI人才戰需要容納反對意見?

研究人才需要的不只有薪資,還包括能影響研究方向與提出異議的空間。

這裡的重點不是要求公司接受每項反對意見,而是提出不同判斷的人,能不能把證據送進決策過程。研究本來就有不確定性,主管與團隊都可能判斷錯誤。

在訪談約18分34秒之後,Altman談到避免身邊只剩附和者。但這不表示他主張領導者應該反覆推翻大家的意見。約20分02秒起,他也說,違背所有人建議的情況應該很少。

把這兩段一起看,才不會將故事剪成「成功者都要力排眾議」。若團隊成員都理解技術與使用情境,領導者仍要說清楚,為什麼這一次採用不同判斷。

可以用一個假設情境理解:研究者發現模型在某類測試持續失敗,產品團隊認為影響有限。此時需要討論的是測試是否有效、影響範圍有多大,以及補救後如何重新驗證。

如果討論很快變成誰比較忠誠,技術問題就失去被處理的機會。即使最後依然決定推出產品,也應留下判斷依據、承擔責任的人,以及出現什麼證據時要改變做法。

這對小型團隊同樣有用。因為員工未必要求自己每次都贏,但至少需要知道,投入專業提出的意見確實被考慮,而不是在會議結束後消失。

這種空間不能只靠主管的態度,還需要不因人而變的申訴與審議程序。

OpenAI新增申訴管道,能解決什麼問題?

10月30日的政策更新,縮短了安全疑慮接觸董事會安全委員會的路徑。

根據公司的政策公告,員工可以直接向OpenAI Foundation董事會的安全委員會反映AI安全疑慮,或AI安全政策違規問題。

同一份公告也說明,政策禁止對提出疑慮者進行騷擾或報復。這些文字建立了公司公開承諾的處理原則,讀者可以據此追問後續執行情況。

但政策存在,本身不能證明員工已經覺得安全,也不能證明每次申訴都會得到提出者滿意的結果。收到意見、啟動討論與改變決策,是不同階段。

因此,評估制度時,除了看能向誰反映,也可以追問回應需要多久、如何保護當事人,以及主管與申訴對象有利害關係時,誰能接手處理。

這些是用來判斷制度完整性的問題,並非此刻已證實的公司內部缺陷。外部讀者看不到的部分,應保留為資訊限制,不能用想像補上。

對一般公司而言,設置管道的價值在於降低反映問題的門檻。但若處理結果始終不回覆,員工仍然難以判斷提出意見是否有意義。

當異議可以被送達,下一個問題是誰有權做最後決定。

非營利控制權,為何與人才信任有關?

控制權決定使命與商業目標衝突時,誰有制度上的處理權。

OpenAI在公開組織架構中說明,OpenAI Foundation控制營利事業OpenAI Group PBC。PBC是公益公司的一種形式,需將其公開使命納入公司運作。

基金會持有特別投票與治理權,能任命及更換Group董事。這項安排交代了權力的正式來源,但不能單憑架構就斷言,實際決策必然符合每個人的期待。

制度交代了誰有權處理,但日常管理還要回答資訊能否送達、決策者能否理解風險,以及不同選項如何被比較。兩者需要一起運作。

OpenAI的章程將確保通用人工智慧造福全人類列為使命。通用人工智慧,指能廣泛處理不同領域任務的AI,相關發展仍涉及能力與安全等不確定性。

當使命如此廣泛,研究者對「對人類有利」就可能持不同看法。有些人重視更快提供有用工具,有些人更在意部署前的風險理解。實際取捨需要具體證據。

這也是為何人才對公司的信任,不能只靠相信某位領導者。因為團隊需要知道,即使主管更換或方向改變,重要疑慮仍有可依循的處理機制。

制度設計提供檢驗起點,真正的信任仍要從長期執行累積。

一般團隊可以從AI人才戰學到什麼?

把分歧變成可追蹤的決策,比要求所有人認同領導者更有用。

主管可以先把討論範圍縮小,說清楚這次要決定什麼。例如是要不要測試新工具、允許接觸哪些資料,還是把結果交給客戶。不同決定需要的證據與授權並不相同。

接著記錄兩件事:目前為什麼採這個選項,以及看到什麼結果就重新討論。這樣反對者不必等到事情失敗才能證明自己,支持者也不必把更改決定視為失去面子。

員工則可以把不滿轉成可處理的問題。與其只說產品不安全,更具體的方式是描述在哪種輸入下出錯、後果如何、是否能重現,以及建議如何縮小影響。

不過,具體舉證不代表員工必須獨自證明所有風險。管理者仍要配置時間與資源,讓合理疑慮有被驗證的機會,不能把查清一切變成提出問題的門檻。

對正在選公司的讀者,面試時可以詢問最近一次團隊改變決定的例子。比起文化標語,決策如何被推翻、反對者後來怎麼合作,更能看出日常運作。

截至11月8日,這段訪談與政策更新提供了新的觀察材料,尚不足以替OpenAI所有人才流動下結論。現在能做的是,把人物的說法與制度、後續行為分開檢驗。

對關心AI產業的人而言,觀察這些行為比追逐離職名單,更能留下判斷依據。

想持續看懂AI公司的決策與人才變化,歡迎免費訂閱AI郵報,從原始資料建立自己的判斷。

Sam Altman與OpenAI人才戰常見問題

Sam Altman有說所有人都因為不信任他而離職嗎?

沒有。訪談中的回答是他對高風險研究與信任關係的解釋,不能代替每名離職者的說法,也不能用來推定共同動機。

有申訴政策,就能確定公司鼓勵不同意見嗎?

政策是可以檢視的公開承諾。實際感受還需要看處理程序、回應與保護措施如何執行,不能從公告直接推論。

沒有研究背景,也能觀察AI公司的治理嗎?

可以。先分清誰作決定、誰能提出異議,以及出錯後誰負責,再觀察公司是否說明重大取捨。無須先懂所有模型技術。

延伸閱讀:Anthropic Residency 開放申請:不要求機器學習背景,為何鎖定資深技術人才?

延伸閱讀:AI 代理接手工作,如何保留批判性思考?Addy Osmani 的交辦與驗證方法

資料來源