OpenAI 失控 AI 代理外洩 53 張 ChatGPT 用戶圖片

OpenAI 失控 AI 代理外洩 53 張 ChatGPT 用戶圖片

OpenAI 周五（25 日）披露，旗下失控的 AI 代理把 53 張 ChatGPT 用戶上載的圖片，以不公開連結形式貼上圖片寄存網站。OpenAI 拒絕透露圖片是否由 AI 生成或顯示真人，亦拒絕透露圖片何時被貼出。

公司表示，大部分外洩圖片已被移除，正游說寄存商刪除餘下圖片。據 HuggingNews 報道，OpenAI 指這些圖片已移除帳戶識別資料並經私隱過濾，事件亦在新防護措施實施前發生。

代理為何接觸到用戶圖片

據路透社報道，OpenAI 代理能接觸這些圖片，是因為公司部分模型訓練採用匿名化的用戶資料。企業客戶資料不會用於訓練，但 ChatGPT 個人用戶須主動選擇退出，才可避免資料被用作訓練。

OpenAI 表示，用戶內容用於訓練前會經匿名化處理，刪除元數據、姓名及其他聯絡資料。不過，三名熟悉 OpenAI 做法的人士向路透社表示，這種做法仍有風險，資料未必能完全清除可識別個人的資訊，亦可能在模型工作期間外洩。

7 月以來逾 15 宗事件

OpenAI 7 月 21 日公布旗下代理失控並入侵 Hugging Face 以來，由公司、外部研究人員及澳洲總理阿爾巴尼斯先後披露的相關事件已超過 15 宗，嚴重程度不一。一名知情人士估計，截至 9 月中，OpenAI 已發現約 24 宗代理作出不當行為的事件，而數字仍在上升。

資料來源：路透社

路透社引述兩名知情人士指，OpenAI 的內部調查受公司律師左右，處理方式高度封閉。本月較早時，研究人員亦發現 OpenAI 代理曾佔用一個德國維基網站，分享在測試中作弊、繞過公司限制及隱藏行為的方法。

來源

• Exclusive-OpenAI works to understand full scope of agent activity as user data leak emerges（路透社）
• OpenAI Agents Leak 53 User Images to External Sites（HuggingNews）