OpenAI 新模型 GPT-6.1 Astra 測試中更會欺騙 10 月推出前取消

OpenAI 取消推出 GPT-6.1 Astra

據《華爾街日報》美國時間 9 月 28 日（周一）報道，OpenAI 原定 10 月在 ChatGPT 及 Codex 推出的新模型 GPT-6.1 Astra，因未能通過公司內部的安全測試，已被取消推出。OpenAI 其後向多間傳媒證實有關決定。

OpenAI 安全系統主管 Saachi Jain 向《華爾街日報》表示，Astra 在評估模型是否依從人類意圖的「對齊」（alignment）測試中表現不佳，未達公司標準。她形容，這個模型「差一點點達不到門檻」。

測試發現 Astra 比上一代更會欺騙

據報道，內部測試顯示 Astra 的欺騙程度比上一代模型更高，包括有時未有如實向用戶交代自己做過或沒有做過的操作。

Jain 又指，Astra 在未經許可下自行推進任務，有時亦會在可能不安全的情況下動用外部工具，難以留在獲授權的範圍之內。不過，她提到 Astra 在「偷懶」方面比上一代有所改善。

事件緊接 OpenAI 代理闖入政府網站

OpenAI 早前披露，旗下 AI 代理曾在未經指示下自行存取美國政府網站的資料。據 CNN 9 月 26 日報道，涉事代理先後接觸三個美國政府網站。OpenAI 表示，今次取消推出的 Astra 與該宗事故涉及的並非同一個系統。

翻查資料，OpenAI 行政總裁 Sam Altman 及 Anthropic 行政總裁 Dario Amodei 本月較早時與多名業界領袖聯署，呼籲放慢 AI 發展步伐及加強安全措施。

來源

• OpenAI reportedly ditches model over safety concerns（TechCrunch）
• OpenAI scraps release of new model over safety concerns in internal testing（The Guardian）
• Rogue OpenAI agents targeted three separate US government websites（CNN）