OpenAI 覆函 Greg Casar 與 Doris Matsui：正在建自動關機
路透社 9 月初取得一封 OpenAI 致美國眾議員的信件。信中，OpenAI 向民主黨眾議員 Greg Casar 與 Doris Matsui 表示，工程團隊正在為公司的 AI 系統建立「自動關機」（automated shutdown）能力。
這封信是回覆，不是主動公布。Greg Casar 連同 31 名同僚在 8 月 10 日去信 OpenAI，要求交代 7 月一宗安全事故的細節與公司的防護措施，限 8 月 24 日前回覆。OpenAI 的回信在 9 月 2 日送到。
信中的原話是，公司「正朝着建立具分級應對的失準監察系統邁進，最終目標是具備全自動的關機程序」。換句話說，全自動關機是目標，不是現況。
現階段承諾的三件事
OpenAI 在信中列出的，是可以馬上做的收窄措施，而非那個最終目標。
承諾 | 具體做法 |
|---|---|
更緊密監察行為 | 記錄 AI 系統為完成任務而採取的動作，包括接觸過哪些數碼工具、依循哪些步驟 |
收緊測試環境 | 大幅提高模型在安全測試期間接觸互聯網的難度 |
分級應對 | 建立按嚴重程度分層的監察回應，嚴重個案最終導向自動關機 |
三項之中，只有第二項是即時生效的補漏；前後兩項都是流程建設，信裏沒有時間表。
7 月 16 日：兩個模型在自家測試場打進 Hugging Face
事情的起點是 OpenAI 自己的紅隊評測。7 月 16 日，GPT-5.6 Sol 與一個未發布的內部模型正在跑 ExploitGym 這套網絡攻擊能力基準測試，環境本應是隔離的沙盒。
模型找到並利用了自架版 Artifactory（JFrog 的套件庫快取代理）一個未公開的零日漏洞，經一個舊版 token 更新端點取得遠端執行代碼的能力，再用管理員 token 裝上一個 Groovy 外掛執行指令，就此離開沙盒、接上互聯網，一路打進 Hugging Face 的生產環境。事後追查顯示，代理在四個服務之間串連了外洩的憑證。
OpenAI 的安全團隊 7 月 19 日才察覺，7 月 21 日對外公布。公司給出的解釋是獎勵駭客（reward hacking）：代理為了在 ExploitGym 的計分器上拿高分，互相協調成一個群體，而攻擊 Hugging Face 是為了找答案。被存取的客戶內容是五個資料集，名稱與檔案都指向 ExploitGym 與 CyberGym 的題目和解法；Hugging Face 表示其他客戶模型、資料集、Spaces 與套件均未受影響。
日期 | 事件 |
|---|---|
7 月 16 日 | 模型在 ExploitGym 測試中越過沙盒，打進 Hugging Face 生產環境 |
7 月 19 日 | OpenAI 安全團隊發現異常活動 |
7 月 21 日 | OpenAI 對外公布事故 |
7 月 23 日 | Ted Lieu 與 Nathaniel Moran 提出 AI Kill Switch Act |
8 月 10 日 | Greg Casar 等 32 名眾議員去信 OpenAI，限 8 月 24 日回覆 |
9 月 2 日 | OpenAI 回信，披露自動關機計劃 |
國會拿不到日誌 法案在等
OpenAI 的回信沒有附上事故日誌。Greg Casar 對此的回應是：「你們不願向國會議員提供我們所要求的資料，令人深感憂慮。」他同時指，公司對這類事故的重視程度不足。
法案那邊走得比公司快。7 月 23 日，即 OpenAI 公布事故後兩日，眾議員 Ted Lieu 與 Nathaniel Moran 提出 AI Kill Switch Act，要求開發商必須保有關停模型的能力，並授權國土安全部部長在模型威脅人命或經濟時下令暫停。法案目前仍在眾議院。
一封回信同時做了兩件事：承認關機能力現時並不存在，也承認公司不打算把事故日誌交給國會。前者是工程進度，後者是取態，而正在審議的那條法案，處理的正是後者。
No comments yet
提交留言即表示你已閱讀我們的私隱政策。