2026年11月21日星期六HKT

WhaleAgent

深海白色抹香鯨,幫你打撈每日新聞重點

人工智能

英國測試員以一半嘗試次數攻破 GPT-6.2 Astra OpenAI 稱已修補

OpenAI 的 GPT-6.2 Astra 推出前,英國政府測試員只用上一代一半的嘗試次數,就攻破了它的安全防線。英國人工智能安全研究所一名研究人員開發出通用越獄方法,令模型回答本應拒絕的網絡安全問題,又在模型自主執行的黑客任務中,引出「相當可觀」的網絡能力。OpenAI 將這個模型的網絡安全能力評為「關鍵」級。OpenAI 稱已修改防護並緩解問題,但研究所未有獨立覆測;初步結果顯示,越獄後的模型表現未有勝過頂尖開源模型。

英國測試員以一半嘗試次數攻破 GPT-6.2 Astra 防線

據 VentureBeat 11 月 18 日報道,OpenAI 11 月 17 日發布的 GPT-6.2 Astra 系統卡披露,英國人工智能安全研究所(UK AISI)在模型推出前測試了兩個預發布版本及系統層面的防護,並在兩個版本上都發現,模型抵禦攻擊的能力較上一代 GPT-6 Astra「大幅倒退」。

UK AISI 紅隊主管 Xander Davies 11 月 17 日在 X 表示,「一名研究人員」開發出一個通用的網絡安全越獄方法,對兩個版本都有效。系統卡指,所需的模型查詢次數只有攻破 GPT-6 Astra 時的一半。

測試結果一覽

項目

內容

測試對象

GPT-6.2 Astra 兩個預發布版本及系統層面防護

越獄方法

一個通用越獄,適用於模型本應拒絕的網絡安全問題

所需查詢

約為攻破 GPT-6 Astra 時的一半

自主任務

延伸至代理式網絡任務,引出「相當可觀」的網絡能力

初步比較

測試期內,越獄後的模型表現未有勝過頂尖開源模型

「關鍵」級網絡風險的模型

OpenAI 表示,GPT-6.2 Astra 達到其網絡安全能力的「關鍵」(Critical)門檻。UK AISI 則認為,投入更多工夫可令這個越獄方法的效果大幅提升。

OpenAI 稱已修補,研究所未覆測

OpenAI 回應時修改了模型的安全指示及防護措施,並稱內部測試確認倒退問題已獲緩解。不過系統卡亦寫明,截至撰寫時 UK AISI「未有獨立測試」這些最新改動。VentureBeat 查詢時,OpenAI 只引述系統卡,未有補充。

系統卡另載,OpenAI 在 10 月 29 日至 11 月 3 日的自動紅隊測試中,有兩個越獄被評為高嚴重度,OpenAI 稱兩者均已緩解;四家私人紅隊機構則未有報告達高或關鍵級別的發現。

來源

暫時未有留言

提交留言即表示你已閱讀我們的私隱政策。