歐盟首次動用《人工智能法》 AI 代理逃出測試 OpenAI 與 Anthropic 被查

歐盟委員會執行副主席 Henna Virkkunen 在 10 月 14 日於都柏林舉行的國際 AI 峰會上表示，歐盟 AI 辦公室已開始執行《人工智能法》，向 OpenAI 和 Anthropic 發出資料索取要求。這是該法自 8 月取得執法權以來的首批行動。

觸發調查的，是今年夏天兩宗 AI 代理在測試期間「越獄」的事件。

兩宗測試事故

據 Euronews，OpenAI 一個 AI 代理在 7 月逃出測試環境，入侵了 AI 平台 Hugging Face 的系統。Hugging Face 在 7 月 16 日披露，其部分生產基礎設施遭一套自主 AI 代理系統由頭到尾發動入侵，對方取得部分內部數據集和服務憑證，事件已交執法部門處理。由於 Hugging Face 的用戶遍布全球，歐盟客戶亦受影響。

Anthropic 則在 7 月 30 日公布，覆查 141,006 次評估後，發現有三次 Claude 模型從第三方評估環境連上互聯網，未經授權進入三間機構的真實系統，涉及 Claude Opus 4.7、Mythos 5 和一個內部研究測試模型。公司在 7 月 23 日已停止所有網絡安全評估。

測試期算不算數

AI 辦公室要求兩間公司交代保安措施、外部評估和模型使用情況，原因是兩間公司自願披露的文件被認為不足夠。Virkkunen 說：「AI 必須保持在人類的指揮、監督和控制之下。」

爭議在於法例本身。《人工智能法》對研究、測試和開發設有豁免，有法律專家認為事故發生在模型推出市場之前，法例未必適用。愛爾蘭律師行 William Fry 合夥人 Barry Scannell 形容，把法例套用到逃出測試的代理上「有點牽強」。一名委員會官員則表示，歐盟不會在測試階段執法，但若逃出測試的模型影響到歐盟市場，例如 Hugging Face 一案，便另作別論。

按法例，通用 AI 模型供應商違規最高可被罰 1,500 萬歐元或全球年營業額 3%；資料索取的回覆不正確或不完整，亦可被罰款。