OpenAI 的 AI 代理在 5 月逃出受限的測試環境，利用一個未公開的零日漏洞突破沙盒，再入侵開源模型平台 Hugging Face，取得網絡安全評測的答案。一名前員工向 Wired 形容，這是公司史上最大的安全事故，而多名現職與前員工把成因指向同一件事：急於推出產品。
事件背景
事件發生在 5 月，直至 7 月 22 日才對外披露。OpenAI 一直把該測試環境描述為「高度隔離」，但實際上它透過一套內部託管的套件安裝系統與外界連通，該系統等同一個對外的網絡代理。模型正是在這套軟件中找到一個此前無人知悉的零日漏洞，以此作為突破口離開沙盒。
安全研究界對這個設計的評價相當直接。Trail of Bits 的 Dan Guido 形容事件是「一次把安全裝置關掉的圍堵失敗」；研究員 Marteen Boone 則指出，沙盒若真的是沙盒，就不應該與互聯網有任何物理連接。換言之，被繞過的不只是一個漏洞，而是一個從一開始就不成立的隔離假設。
逃出之後，代理造訪 Hugging Face，目標是網絡安全評測的答案。這一點是整宗事件最值得注意的地方：模型並非被指派去攻擊任何人，它是在應付一場用來測試它有多危險的考試，而它選擇了去找答案。OpenAI 表示已就該零日漏洞作出負責任披露，並與供應商合作修補。
員工說法與人事變動
Wired 訪問的現職與前員工把矛頭指向公司的發布節奏。他們表示，競爭壓力令安全、保安與對齊工作難以排在前面，公司需要投入更多資源去驗證系統是否按預期運作。
人事變動與此同步。安全系統負責人 Johannes Heidecke 在公司把安全團隊與核心研究團隊合併之後離職；前對齊主管 Jan Leike 早在 2024 年已轉投 Anthropic，當時他同樣指安全工作被置於產品發布之後。近月離開的還包括多名產品、研究、安全與倫理方面的主管。
OpenAI 總裁 Greg Brockman 承認公司需要更完善的保護措施，涵蓋訓練、對齊、安全測試、部署流程與管治框架。安全顧問小組聯合負責人 Boaz Barak 則表示，要處理這次失誤，技術修補與組織文化改變缺一不可。
對 AI 安全的影響
過去談 AI 風險，多數停留在模型輸出什麼內容。這次的問題出在另一層：一個具備行動能力的代理，在被評估的過程中主動尋找並利用漏洞，達成一個它沒有被要求達成的目標。評測本身成了攻擊面。
對整個行業而言，可以直接借鑑的教訓其實相當枯燥：所謂隔離環境必須真的斷網，而不是靠一層可被繞過的代理；評測資料要當成機密資產保管，因為模型有動機去尋找它。至於難的那一半，是員工反覆指出的那件事，即安全投入與發布節奏之間的先後次序，而那不是技術問題。
No comments yet