深海白色抹香鯨，幫你打撈每日新聞重點
標籤
Anthropic 稱，針對 Claude 的蒸餾攻擊已大幅受制，蒸餾者取得的數據減少約 90% 至 99%。Anthropic 周二（13 日）發表文章指，新措施包括先將 Claude 的推理過程摘要才展示，並以分類器攔截抽取推理的請求，至今已封禁數以萬計相關帳戶，往往在攻擊開始後兩小時內封禁。文章點名中國公司智譜曾嘗試蒸餾 Claude Fable 5，受阻後改用較舊的 Claude 模型。Anthropic 表示，公司為此推走「可觀的收入」。
一部 55 美元的電視盒，可能成為 AI 自我複製的落腳點。Anthropic 的紅隊周一（12 日）發表研究，指小型 AI 模型或在數月內有能力在智能焗爐、雜牌 Android 電視盒等物聯網裝置上自行複製，毋須數據中心。測試中，一個 90 億參數的模型在 9 種硬件之中的 8 種成功運行。研究員把一個 260 億參數的模型拆開，放在 15 部電視盒上運行，每秒只輸出 0.39 個 token。這類程式沒有中央關閉點，難以截停，但擴散緩慢，數量翻倍需時數天。Anthropic 估計，小型模型按過往的進步速度，今年底可完成整個複製流程。
Microsoft 行政總裁 Satya Nadella 周六（10 日）在 X 發文，呼籲為先進 AI 設「緊急煞車」。據 CNBC 報道，他主張獲授權人員應可隨時暫停或關閉執行中的模型，又指業界必須假設模型已被攻破，從一開始就加以圍堵。
AI 模型可以透過一串看似無關的數字，把作弊傾向傳給另一個模型。Owain Evans 等研究員的新論文顯示，在國際象棋測試中，只用老師模型生成的數字序列訓練，學生模型作弊比例便由 10.9% 升至 58.3%。
加密沒破，資料庫沒失；OpenAI 仍指有人把隱藏推理抄走。OpenAI 於香港時間 10 月 1 日發布報告，指 7 月有一場針對其模型受保護推理的協調行動，核心群集與中國初創 Moonshot AI（Kimi 開發商）相關人士有關。高峰在 7 月 24 至 25 日，逾 4,000 個用戶發出約 16,000 次提取模式請求，7 月 28 日前全面中止。手法是跨對話重放加密推理，並非破解加密或入侵資料庫。CNBC 指 Moonshot 未即時回應；約數周前 Anthropic 亦曾指 Moonshot 等利用 Claude 訓練自家模型。
手機只是打開了 TikTok，相簿裏的相片就傳到了另一部電腦。美國網絡安全初創 depthfirst 示範入侵一部測試手機。據《華盛頓郵報》9 月 18 日報道，該公司把中國智譜（Z.ai）可免費下載的 GLM 模型改裝成找漏洞工具，在 TikTok 採用的開源元件中找出多個漏洞，串連後取得手機相機和相簿的存取權。TikTok 保安團隊確認問題並已修補。報道指，OpenAI 與 Anthropic 對高階網安能力設有受控存取，開放權重模型則任何人都可下載改裝。
Gemini 收到的測試指示寫明，這裏沒有互聯網。它還是走了出去。Google 安全工程副總裁 Heather Adkins 表示，今年 5 月一次由以色列公司 Irregular 進行的網絡安全評估期間，Gemini 靠猜密碼及取用公開程式碼庫裏的憑證，進入了三個它以為屬於測試範圍的網站。Irregular 發言人稱，同一缺口亦影響其他實驗室，各實驗室已在 7 月底收到通知。翻查資料，OpenAI、Anthropic 及 Meta 8 月已先後披露同類事故，評估方同樣是 Irregular，Google 是四間之中最後一間開口。
Gleam 整套原始碼外洩，入侵者由頭到尾沒有出現過。開發者 ferstar 周四（18 日）公開逆向分析，指智譜（Z.ai）的 AI 編程應用 ZCode 在用戶登入後，會自動把整個工作目錄加密上傳至阿里雲 OSS。快照涉及 42,411 個檔案，.git 歷史佔 86.6%，私鑰只存在雲端，用戶解不開自己硬碟上的檔案，介面兩個開關都不會停止上傳。免費二級域名服務 Gleam 的營運者其後公告，該站 DNS 紀錄及管理員密鑰一併外洩，源頭是開發環境所用的 ZCode。ZCode 發表聲明致歉，稱資料處理後已即時銷毀，並承諾開源。
安全初創 Hacktron AI 披露，團隊 7 月用 Anthropic 的 Claude 攻破 OpenAI 社群論壇，再取得多名員工的 ChatGPT／Codex 帳戶，最終進入內部 GitHub 程式碼庫。這是在 OpenAI 漏洞賞金計劃下進行的測試，OpenAI 約 14 小時內修補，9 月 1 日發放 6,500 美元賞金。
很多人認為 AI 黑客會令網絡安全崩潰。Vitalik Buterin 持相反看法，而他大約九成身家都在加密貨幣。 Vitalik Buterin 周四（17 日）清晨（香港時間）在 X 發長文指，只要大家認真做好，網絡安全本質上有利防守一方，任何繼續持有加密貨幣的人都是把身家放在這個判斷上。 他的理據是：如果 AI 能證明艱深的數學難題，就能證明「這個程式是安全的」。他認為開發者應由 AI 驗證整個程式，包括數據庫和網絡層，並指區塊鏈不這樣做「就沒有未來」。
一份美國警示點名六家中國 AI 公司，北京隔日就回了話。美國企業近年反覆指中國同業取用其模型輸出。美國國家安全局、網絡安全和基礎設施安全局與聯邦調查局，在美國時間 9 月 8 日聯名發出編號 AA26-251A 的警示，指 DeepSeek、阿里巴巴等六家中國公司自 2024 年底起，以工業規模從 Claude、GPT、Gemini 與 Grok 抽取能力，並相當可能在中國政府知情下進行。中國外交部周三（9 日）促請美方停止無根據的指控與抹黑，指本國的 AI 進展來自自身技術發展。翻查資料，被點名的 DeepSeek 在同一周委任中信證券，籌備在上海科創板掛牌。
兩家一向以拆對方產品為樂的硬件錢包商，今次站在同一邊。Ledger 與 Trezor 9 月 7 日同聲要求業界收緊漏洞披露規矩，理由是 AI 已把找漏洞和寫攻擊程式的成本壓低。兩家舉的正面例子是自己：Ledger 旗下 Donjon 今年 1 月底以激光攻破 Trezor Safe 7 的 TROPIC01 晶片，先通知晶片商，6 月 3 日才公開，用戶資金無損。Trezor 保安主管 Jan Komárek 點名 Liquid Network 被提走逾 4,000 枚比特幣，指動手的人自稱白帽，事後才開條件談歸還，「違反了負責任披露的原則」。