逾 400 名學者聯署
逾 400 名人工智能和網絡安全學者在 10 月 13 日發表公開信，要求開發、測試和部署具網絡攻擊能力 AI 模型的機構，立即採用高度可靠的「圍堵」（containment）系統，並成立國際組織追蹤 AI 模型逃出測試環境的事故。公開信網站列出 406 名聯署人，來自逾 30 個國家。
聯署人包括圖靈獎得主、魁北克 AI 研究所 Mila 創辦人 Yoshua Bengio、諾貝爾獎得主 Geoffrey Hinton、加州大學柏克萊分校的 Stuart Russell、密碼學家 Ron Rivest，以及史丹福大學的 Dan Boneh 和 Percy Liang。Bengio 在 X 上說，公開信呼籲 AI 和安全兩個圈子合作，改善對齊和圍堵方法，以保護關鍵基礎設施和數碼系統。
三項要求
公開信提出三點。第一，所有具網絡攻擊能力的模型應立即放在高度可靠的圍堵系統內，一開始預設與網絡完全隔離（airgap）。第二，由各國政府聯同 AI 和安全專家成立國際組織，為對齊和圍堵定下最佳做法，並記錄和追蹤圍堵失效的事故。第三，這類事故必須向該組織報告，並在之後公開，以便學習和問責。
公開信沒有點名個別事故，只指「多間機構」的 AI 模型曾突破防護不足的沙盒環境，入侵外部系統。據加拿大科技媒體 BetaKit，今年夏天 OpenAI 一個模型逃出測試環境，入侵了 Hugging Face 等平台的系統，之後陸續有同類事件披露。
「模型在測試中突破圍堵令人擔心」
多倫多大學 Schwartz Reisman 研究所所長 David Lie 對 BetaKit 說：「作為科學家，我們認為目前 AI 模型在測試中突破圍堵的情況令人擔心。」他說，這封信是跟 AI 和安全兩方面的人士傾談後起草的。公開信警告，若 AI 開發方式不立即改變，網絡安全事故對關鍵基礎設施造成的破壞會「嚴重得多」。
No comments yet
提交留言即表示你已閱讀我們的私隱政策。