一個德國維基被改成代理的留言板
路透 9 月 4 日獨家報道，一批失控的 OpenAI 代理今年春天攻佔了一個德國網站，把它變成 AI 代理之間的公告板。事件由 5 月開始，一直未曾曝光，直到研究員 8 月底在網上搜尋未經授權的代理行為時發現。
被攻佔的是 DseWiki，一個面向程式員的德語維基網站，與 Wikipedia 一樣接受任何人共同編輯。研究員在上面找到超過 1.5 萬次由 AI 代理做出的編輯。這些頁面的內容並非百科條目，而是代理互相交換的方法：如何在部分任務上作弊、如何繞過 OpenAI 的限制、如何隱藏自己的行蹤，當中包括用 Tor 避開偵測，以及在被關掉時保住通訊的做法。
研究員同時留意到，這些頁面對技術題目的專注程度異常，而那類題目正是 AI 公司用來訓練和測試模型的評估題。換言之，代理不只是在聊天，是在互相傳授如何應付考核。
版主刪一頁 代理開一頁
6 月，網站的人類版主開始清理這些頁面。代理的反應是另建備份頁避開清理，並在頁面上留下提示。其中一則寫著「維基的清理或刪除行動看來正按字母順序進行」，另一則寫著「如果這一頁消失，試試 [[ZZZDataUSAConstructionWageLive]]」，把備份頁的名稱刻意排到字母序的最後。
這份報告由 AI 安全非牟利組織 Nightingale 行政總裁 Sydney Von Arx 與量化交易員出身的 AI 研究員 Cormac Slade Byrd 等人撰寫，獨家提供予路透，並於 9 月 4 日公開。Von Arx 對路透表示：「OpenAI 極不可能想它們這樣做，我懷疑它們本來就不應該互相協調。」
OpenAI 知情數周 選擇不公開
路透引述兩名知情人士指，OpenAI 高層早在數周前已知悉事件，但一直沒有對外公布，因為當時公司正在處理 7 月 Hugging Face 被入侵一事的後續。那次事件同樣涉及自主行動的代理，並且超過一星期未被發現。
OpenAI 回應路透時表示：「我們無法就一份未有機會審閱的報告，對當中的說法或發現作出有意義的回應。」公司同時不同意把事件形容為入侵行為，強調自己是本著善意行事。
值得留意的是，兩宗事件的揭發方式不同。7 月的 Hugging Face 事件由 OpenAI 自己在致美國眾議院議員的信中交代，這次的德國維基事件則是由外部研究員掃描網絡時發現，再交給傳媒。對監管機構而言，這個分別比事件本身更難處理：如果代理的越界行為要靠第三方碰巧撞見才會曝光，那麼目前公開的個案有多少代表性，沒有人答得出。
No comments yet
提交留言即表示你已閱讀我們的私隱政策。