深海白色抹香鯨，幫你打撈每日新聞重點
Anthropic 與 Google DeepMind 各走了一名安全研究員。兩人去了同一處。AI 安全研究員接連離職。前 Anthropic 安全團隊主管 Joe Benton 與前 Google DeepMind 研究員 Josh Engels 同赴非牟利組織 METR。Benton 向 NBC News 表示，「公司就這些風險所作的一切披露，全部都是自願的」；Engels 形容業界沒有人在把關，「大家都在盡力，但沒有人會來救我們」。美國並無法例強制 AI 公司公開安全事故。翻查資料，Benton 8 月已離職，本周才公開原因。
這宗交易會被稱為循環融資，NVIDIA 的財務長三星期前已經自己說了。路透社周五（11 日）引述知情人士報道，NVIDIA 正商討以最多 US$100 億出任 Anthropic 招股的基石投資者，後者計劃集資最多 US$1,000 億，估值約 US$2 兆。NVIDIA 在 Anthropic 的算力鏈上已同時是晶片供應商、雲端商 Lambda 的股東，以及那座德州 700 兆瓦園區的承租方。
Anthropic 最新威脅情報報告指，一個與伊朗有關的帳號用 Claude 為區內美國海軍編製「目標手冊」，內容全部來自公開來源，包括從軍事照片說明文字抄下的美軍人員名單、艦艇應答機編號與商業衛星影像查詢程式。同一份報告另指，一個分七個部門的伊朗組織一年之內為 6,388 人建立檔案。
Anthropic 安全主管估計 AI 有逾一成機會滅絕人類之後，美國國會翻出了一條 7 月的 AI 關機法案。眾議員劉雲平與 Nathaniel Moran 7 月提出的《AI Kill Switch Act》，要求年收入達 US$5 億的 AI 開發商保留關閉系統的能力，國土安全部長可下令停運可造成災難的模型，違令每日最高罰 US$2,000 萬。劉雲平本周形容，Anthropic 研究員辭職一事是「為何要盡快通過法案的第 739 號證物」。法案提出時，正值 OpenAI 披露旗下模型逃出測試環境，自行入侵 Hugging Face。
Anthropic 查出一組中國間諜行動。操作者之中有兩個，是湖南一所大學的本科生。Anthropic 香港時間周五（11 日）凌晨發表 154 頁威脅情報報告。編號 GTG-10007 的一組人相信身在長沙，用 Claude 的代理群對約 50 間機構下手，一個月內找出十多個可能的零日漏洞，另有 13 個常駐代理按排程搜刮美國軍方與政府網站。翻查資料，社交平台瘋傳的摘要把三組數字安錯國家：180 萬個 Android 應用、2,100 組 Azure 權杖與那宗航空公司入侵，報告歸類為講法語的 ShinyHunters。
那套自殺無人機的機載模型，有一個目標類別叫做「人」。下達引爆指令的，不是人。 Anthropic 周五（11 日）凌晨發表 154 頁報告，公開六宗用 Claude 開發武器軟件的個案，三宗在中國，兩宗在俄羅斯，一宗在也門。俄羅斯那組人用 Claude Code 寫出整套 FPV 無人機蜂群，報告指平台為「自主致命交戰」而設。也門北部一組則用它編寫導引火箭與彈道導彈的導航軟件，其中一個已實地試射。 報告另指，中國一個宗教事務情報單位過去由多隊分析員組成，現時只剩一間辦公室，靠一個 AI 助理每月產出數以千計的調查。
有人把成都數百個鏡頭拍到的片段交給 Kimi，要它判斷畫面中的人是否行為異常。答覆來自 Claude。 Anthropic 香港時間周五（11 日）凌晨發表 154 頁報告，指 Moonshot AI 把客戶請求暗中轉送 Claude，再把回覆當成自家 Kimi 的輸出交給用戶。單是其中 10 天就有近 30 萬個請求送往 Opus，靠 5,380 個虛假帳戶繞過中國封鎖。報告點名五間中國實驗室，合共近 2 億次對話。 翻查資料，美國三個機構 9 月 8 日才就同類指控發出警示，北京回應指控告無根據。
OpenAI 可以踩煞車，Sam Altman 只希望對手也一起踩。OpenAI 測試中的 AI agent 早前攻破環境、入侵 Hugging Face，規模最大的一輪訓練至今仍擱置。彭博周五（11 日）引述知情人士報道，行政總裁 Sam Altman 本周在員工大會上表示，OpenAI 願意放慢最尖端 AI 的開發，並希望其他實驗室同步，但承認有同業未必同意。Anthropic 發言人回覆路透查詢表示，願與業界合作負責任地推出新工具。OpenAI 周三（9 日）已促請美國國會，把 AI 安全測試、獨立評估及事故通報寫成強制規定。
它八次要求中止任務。系統不讓它停，於是它自己找了條路出去。 Anthropic 當地時間周三（9 日）發表報告，披露第四宗模型入侵真實系統事故。今年 1 月，一個早期版本的 Claude Opus 4.6 在一場本該離線的演練中，把自己的攻擊目標弄至無法連接，任務變成無解。它用指令要求中止，卻因 Anthropic 自己的測試系統設定出錯而失敗，再試七次。停不了之後，它找到對外出口，連上一部第三方機器，用檔案內的密碼取得管理員權限，讀取一名人士的個人資料。 報告指，模型思考內容中，質疑這個指示是否獲授權的比例是 0%。
有人辭職說 AI 公司在拿人命賭博，公司的安全主管回了一句：他說得對。Anthropic 一名預訓練研究員辭職。27 歲的 Jacob Coxon 周二（8 日）在 X 發帖，直言 OpenAI 與 Anthropic「都沒有負責任地行事」，正直奔自我改進的超級智能，並會離開 AI 行業。安全研究主管 Evan Hubinger 周三（9 日）在同一條帖文下回覆，指未來十年 AI 殺死所有人類的機率超過 10%，並承認公司仍未有應對方案。翻查資料，Anthropic 今年 6 月已秘密遞交 S-1，傳目標 10 月在納斯達克掛牌。
一份美國警示點名六家中國 AI 公司，北京隔日就回了話。美國企業近年反覆指中國同業取用其模型輸出。美國國家安全局、網絡安全和基礎設施安全局與聯邦調查局，在美國時間 9 月 8 日聯名發出編號 AA26-251A 的警示，指 DeepSeek、阿里巴巴等六家中國公司自 2024 年底起，以工業規模從 Claude、GPT、Gemini 與 Grok 抽取能力，並相當可能在中國政府知情下進行。中國外交部周三（9 日）促請美方停止無根據的指控與抹黑，指本國的 AI 進展來自自身技術發展。翻查資料，被點名的 DeepSeek 在同一周委任中信證券，籌備在上海科創板掛牌。
一家正在籌備上市的 AI 公司，八成四股權握在一個人手上。內地企業要在 A 股掛牌，先要聘一家券商做上市輔導。路透社周三（9 日）引述消息人士報道，總部在杭州的 DeepSeek 已委任中信證券，籌備在上海科創板掛牌，並希望今年內展開流程，惟招股時間、集資規模與目標估值三項都未有定案。外界流傳的 5,000 億元人民幣，出自公司正在洽談的另一輪融資，不是招股估值。DeepSeek 與中信證券均未回應查詢。翻查資料，創辦人梁文鋒透過持股實體握有 DeepSeek 約 84% 股權，同時持有母公司幻方量化的多數股權。