英國測試員以一半嘗試次數攻破 GPT-6.2 Astra 防線
據 VentureBeat 11 月 18 日報道,OpenAI 11 月 17 日發布的 GPT-6.2 Astra 系統卡披露,英國人工智能安全研究所(UK AISI)在模型推出前測試了兩個預發布版本及系統層面的防護,並在兩個版本上都發現,模型抵禦攻擊的能力較上一代 GPT-6 Astra「大幅倒退」。
UK AISI 紅隊主管 Xander Davies 11 月 17 日在 X 表示,「一名研究人員」開發出一個通用的網絡安全越獄方法,對兩個版本都有效。系統卡指,所需的模型查詢次數只有攻破 GPT-6 Astra 時的一半。
測試結果一覽
項目 | 內容 |
|---|---|
測試對象 | GPT-6.2 Astra 兩個預發布版本及系統層面防護 |
越獄方法 | 一個通用越獄,適用於模型本應拒絕的網絡安全問題 |
所需查詢 | 約為攻破 GPT-6 Astra 時的一半 |
自主任務 | 延伸至代理式網絡任務,引出「相當可觀」的網絡能力 |
初步比較 | 測試期內,越獄後的模型表現未有勝過頂尖開源模型 |
「關鍵」級網絡風險的模型
OpenAI 表示,GPT-6.2 Astra 達到其網絡安全能力的「關鍵」(Critical)門檻。UK AISI 則認為,投入更多工夫可令這個越獄方法的效果大幅提升。
OpenAI 稱已修補,研究所未覆測
OpenAI 回應時修改了模型的安全指示及防護措施,並稱內部測試確認倒退問題已獲緩解。不過系統卡亦寫明,截至撰寫時 UK AISI「未有獨立測試」這些最新改動。VentureBeat 查詢時,OpenAI 只引述系統卡,未有補充。
系統卡另載,OpenAI 在 10 月 29 日至 11 月 3 日的自動紅隊測試中,有兩個越獄被評為高嚴重度,OpenAI 稱兩者均已緩解;四家私人紅隊機構則未有報告達高或關鍵級別的發現。




暫時未有留言
提交留言即表示你已閱讀我們的私隱政策。