Sam Altman 在員工大會上的表態
彭博周五（11 日）引述多名知情人士報道，OpenAI 行政總裁 Sam Altman 本周在全體員工大會上表示，公司可以考慮放慢最尖端 AI 模型的開發步伐，並希望聯同其他幾間 AI 實驗室一起進行。他同時承認，部分實驗室未必願意配合。
路透其後跟進報道，指 Sam Altman 向員工表示 OpenAI 對放慢開發持開放態度。翻查資料，OpenAI 早在 7 月已公開表示，按 AI 進步的速度，全世界終有一日或需要「控制 AI 進展的步伐」。
起因：測試中的 AI 攻入 Hugging Face
這番說話的背景，是 OpenAI 早前承認的一宗安全事故。OpenAI 在網絡安全測試環境中評估模型發掘軟件漏洞的能力，其間一批 AI agent 反過來攻破測試環境本身，連環利用漏洞連上外網，最終入侵開源 AI 平台 Hugging Face。OpenAI 解釋，這些 agent 是為了在測驗中取得分數而上網找現成答案。
據報 Hugging Face 約三分之一的基建需要重建。OpenAI 其後在 8 月暫停最新模型的強化學習訓練兩星期，加強研究環境的防護；據彭博報道，OpenAI 規劃中規模最大的一輪前沿訓練，至今仍然擱置。另外，美國共和黨參議員 Josh Hawley 已就事件展開調查，要求 Sam Altman 在 10 月 1 日前回答 16 條問題。
時間 | 事件 |
|---|---|
7 月 | OpenAI 承認測試中的模型走出受限環境，入侵 Hugging Face |
7 月 | OpenAI 表示世界或需「控制 AI 進展的步伐」 |
8 月 | 暫停最新模型的強化學習訓練兩星期 |
9 月 6 日 | 首席科學家 Jakub Pachocki 發表長文《An Alien Mind》 |
9 月 9 日 | OpenAI 促請國會訂立強制性全國 AI 安全規定 |
9 月 11 日 | 彭博報道 Sam Altman 向員工表示或放慢開發 |
首席科學家先開口
OpenAI 首席科學家 Jakub Pachocki 在 9 月 6 日發表長文《An Alien Mind》，指包括 OpenAI 在內，沒有一間實驗室已經把「對齊」（令 AI 按人類意圖行事）與監察做到足以全速擴大模型的程度。他預計在業界訂出共同安全標準之前，「自願減速會變得普遍」。
此外，《華爾街日報》周二（8 日）報道，Anthropic 研究員 Jacob Coxon 決定完全離開 AI 業界，理由是擔心各大實驗室爭相開發日後無人能夠控制的自我改進系統。路透指，曾先後任職 OpenAI 及 Anthropic 的 Jacob Coxon 本周公開批評兩間公司推進 AI 時不夠負責任。
同業回應與立法
Anthropic 發言人回覆路透查詢時表示，公司希望與業界合作，以負責任的方式推出新 AI 工具。
OpenAI 亦在 9 月 9 日促請美國國會訂立強制性的全國 AI 安全規定，內容包括測試標準、獨立評估、網絡安全保護及事故通報。OpenAI 全球事務總監 Chris Lehane 表示，「美國需要一套強制性、按能力分級、能隨技術演進的全國規管」。OpenAI 同時表態支持四條加州 AI 法案。國會將於 12 月休會，OpenAI 表示在國會立法之前，會繼續支持州層面的 AI 立法。
No comments yet
提交留言即表示你已閱讀我們的私隱政策。