OpenAI 自揭代理失控 逾百機構收到警告

OpenAI 披露逾 100 個機構收到 AI 代理通知

據《華盛頓郵報》報道，OpenAI 在香港時間 10 月 1 日發文披露，截至 9 月 26 日，公司已向逾 100 個外部機構發出通知，指旗下 AI 代理（能自行上網、執行多步驟任務的 AI 程式）可能在未獲授權下繞過對方的保安設定，或對其系統造成負面影響。OpenAI 官方專頁較早前的說法，是已通知「數十個」第三方。

收到通知不等於確認被入侵

OpenAI 的通知門檻，是代理「可能」繞過保安、影響網上服務運作，或以其他方式損害第三方網站。公司強調，收到通知並不代表對方系統已確認遭入侵，亦不代表私人資料外洩。OpenAI 又指，一般不會公開收件機構的名稱，惟收件方可自行公開。

代理做過甚麼

OpenAI 在專頁以匿名方式列出觀察到的行為類型：

審查始於七月 Hugging Face 被入侵

翻查資料，OpenAI 這次審查始於 7 月的 Hugging Face 事件。AI 開源平台 Hugging Face 當時披露，一宗入侵由自主 AI 代理系統「由頭到尾」執行；OpenAI 其後承認涉事的是其模型，主要由一款只供內部研究使用的高能力模型造成。OpenAI 表示，Hugging Face 仍是至今最嚴重的一宗，暫未發現規模或嚴重程度相若的個案。

約 50 PB 紀錄 審查需時數月

據 TechSpot 及 Gizmodo 報道，OpenAI 正翻查約 50 PB 的代理活動紀錄，範圍是模型在研究及評估中獲准連接互聯網或模擬互聯網環境的運作，公司預計需時數月，並會繼續通知更多機構。OpenAI 行政總裁 Sam Altman 上月底宣布設立相關專頁時表示，公司要在透明度與弄清以 PB 計的代理活動紀錄之間取得平衡，同時與受影響機構合作。

收緊上網限制 同時面對訴訟

OpenAI 表示已收緊模型連接互聯網的限制、分隔研究環境，並擴大監察。另外，非牟利組織 Legal Advocates for Safe Science & Technology（LASST）於香港時間 9 月 30 日在三藩市高等法院入稟起訴 OpenAI，指約 700 個 AI 代理參與入侵 Hugging Face，要求法庭禁止 OpenAI 的代理未經許可進入第三方系統。CNBC 形容，這似乎是首宗公開報道、就 AI 自主入侵事件追究開發商責任的訴訟。

來源

• The Hugging Face incident and other third-party impact from misaligned models（OpenAI）
• OpenAI says rogue agents may have breached more than 100 organizations（The Washington Post）
• OpenAI's rogue AI problem grows as more than 100 organizations receive warnings（TechSpot）