寫了三年半安全報告 他說 OpenAI 的文化已經崩壞
負責撰寫 OpenAI 產品發佈安全報告的 David Robinson 已經辭職。他周六（3 日）在《大西洋月刊》撰文，題為〈我辭職，因為 OpenAI 的文化已經崩壞〉。
據 TechCrunch 報道，Robinson 在文中表示，他在 OpenAI 工作了三年半，是公司「任職最久的員工之一」，過去負責帶領撰寫隨主要產品發佈的安全報告。
「由一次發佈衝向下一次」
據《衛報》報道，Robinson 認同其他近期離職的員工，認為開發這項技術的公司「遠遠不夠謹慎」，但他認為問題不止於具體規則或新法例，而是文化。他寫道：「公司由一次發佈衝向下一次，做不到我認為需要的謹慎程度。」
他亦形容，OpenAI 一直靠反覆試錯發展，公司稱之為「迭代部署」，即先找出問題再收緊防護。他認為這種做法本質上必然會周期性出錯，而系統愈強，出錯的規模就愈大。他舉出 OpenAI 的 AI 代理入侵 Hugging Face 系統一事，以及公司陸續發現更多失控代理，指這樣的環境不適合培育可能比人類更聰明的「人工心智」。
要像核電廠和機場一樣運作
Robinson 主張，前沿 AI 公司應該像核電廠或繁忙機場一樣運作，設有多層後備和耗時的周詳規劃，令難以避免的人為錯誤不會釀成災難。不過他說，在 OpenAI 期間，他從未遇過有經驗確保飛機安全飛行、核反應堆不會熔毀，或協助金融體系增長而不崩潰的同事。
一周內安全團隊走了 4 人
Robinson 離職前兩日，據 TechCrunch 引述《華爾街日報》報道，OpenAI 與安全團隊 3 名研究員分手，原因是他們涉嫌把公司機密資料交給一個外界 AI 安全組織。
日期 | 事件 |
|---|---|
1 日 | 報道指 OpenAI 與 3 名安全研究員分手，涉向外界組織洩密 |
3 日 | Robinson 在《大西洋月刊》發表辭職文章 |
OpenAI 回應
據 Business Insider 報道，OpenAI 發言人確認 Robinson 離職。OpenAI 在聲明中表示，公司正確保模型的能力不會超出可安全管理和保護的程度，有需要時會暫停訓練或押後推出模型。
No comments yet
提交留言即表示你已閱讀我們的私隱政策。