據報 AI 巨頭私下推演災難後公眾反彈

AI 公司高層推演「災後」劇本

據 Axios 周五（9 日）報道，Anthropic、OpenAI 及其他 AI 公司的高層正私下推演一套「災後」劇本：一旦發生災難性 AI 事件，公眾及政界的反彈會如何爆發，公司又該如何應對。

報道指，這些高層預期的大型事件，最可能是一場網絡攻擊，令金融服務、互聯網連線，甚至電力及供水中斷。首宗由不安全 AI 造成的重大現實傷害，將令本已對 AI 有戒心的公眾更加反對這項技術，矛頭亦會指向 Anthropic 行政總裁 Dario Amodei、OpenAI 行政總裁 Sam Altman，以及一直不願規管 AI 的美國總統特朗普。

業內認為事件難以避免

企業及國家安全部門做情境推演並不罕見，美國國防部數十年來一直進行兵棋推演。Axios 指，今次的分別在於不少頂尖 AI 研究人員及高層相信，重大事件無可避免，多名業內人士更表示，事件或於未來 6 至 12 個月內發生。

OpenAI 發言人回應指，公司會進行「準備演練」，由團隊討論及推演各種情境，「這些情境並非被視為必然發生，而是幫助我們為各種情況作準備」。Anthropic 拒絕置評。

報道舉出近期一個例子：有針對南韓金融機構的攻擊行動，據報兩間銀行被入侵。網絡安全公司 CrowdStrike 指，一名來自中國的黑客涉嫌利用包括 DeepSeek 在內的中國 AI 模型，盜取數以萬計銀行客戶的資料，並曾用 Claude Code 查詢可在哪裡出售盜來的資料。

推演重點：遊說國會

Axios 指，推演主要是針對最壞情況的紅隊演練，重心放在搶先向國會議員講解 AI。高層明白相關規管目前不可能通過，但仍希望影響首宗災難性事件發生後，美國領袖會採用的立法及政策。

AI 公司的規劃人員假設，在中期選舉後勢力上升的民主黨，會迅速採取行動限制 AI，但會遇上不少阻力：國會議員年紀偏大，未必跟得上 AI 發展；全球經濟已與 AI 基建緊密相連，放慢建設可能重創本已脆弱的經濟；而大量開源權重模型早已可自由下載並被濫用。

民主黨部分較強硬的提案，包括禁止超級智能或暫停先進 AI 研發；另一些提案則有跨黨派支持，甚至獲部分業界認同，例如規定先進 AI 須設「緊急停止開關」，但有專家質疑要關掉所有 AI 系統是否可行。

一名民主黨助手則指，華府在真正危機中可以放下黨派分歧，並以新冠疫情及 2008 年金融海嘯期間的合作為例。

來源

• Scoop: AI companies plot "day after" scenarios for public revolt（Axios）
• AI leaders prepare for worst-case scenario: Axios（Seeking Alpha）
• OpenAI, Anthropic prepare for public backlash after catastrophic AI event: Report（The News）