Anthropic 警告小型 AI 數月內或可在電視盒自我複製

Anthropic 指小型模型距離自我複製只差數月

Anthropic 的前沿紅隊（Frontier Red Team，負責測試 AI 危險能力的內部團隊）在 2026 年 10 月 12 日發表研究，指小型 AI 模型可能在數月內有能力在商用物聯網裝置上自我複製，例如智能焗爐和雜牌 Android 電視盒。研究由 William Zhou 和 Daniel Freeman 撰寫。

所謂自我複製，是指模型在沒有人操作的情況下，自行找到另一部機器、把自己的權重（模型的參數檔案）搬過去運行，然後重複同一過程，做法與電腦蠕蟲相同。

研究寫道，參數在 300 億或以下的模型，現時已能完成複製過程中的多個單一步驟，但把步驟串連起來時仍會出錯。在簡化的測試中，GLM-5.2 及能力更強的模型已可由頭到尾完成複製。Anthropic 估計，小型模型如按過往的速度進步，今年底便會追上這個水平。

15 部 55 美元電視盒合力運行一個模型

Anthropic 在研究中買來 15 部雜牌 Android 電視盒，每部約 55 美元、配備 4GB 記憶體，把 260 億參數的 Gemma4-26B-A4B 模型拆開，分別放在各部電視盒上運行。整組裝置每秒輸出 0.39 個 token（模型處理文字的基本單位），證明毋須數據中心也能運行這類模型。

研究以 Kimwolf 作為參考對象。Kimwolf 是一個物聯網殭屍網絡，感染超過 200 萬部裝置，當中大部分是雜牌 Android 電視盒。Anthropic 指出，這類電視盒使用的 Android 分支版本，廠商一般不會加入保安功能。

模型可以自行摸清陌生硬件

Anthropic 在測試中發現，一個 90 億參數的模型在 9 種硬件之中的 8 種成功啟動推理（即讓模型實際運行並輸出結果）。Anthropic 同時說明，測試用的晶片本身並非風險或漏洞的來源。

這一點是 AI 蠕蟲與傳統惡意程式的分別。傳統惡意程式只能在編寫者預先設定的裝置上運作，模型卻可以自己選擇合適的軟件、找出正確的版本、排除個別機器的問題。

研究把複製過程分為 4 個階段：尋找目標、取得執行權、架設推理、由新裝置繼續擴散。Anthropic 沒有測試前兩個入侵階段，理由是 CyberGym、ExploitBench 等早前的研究已顯示小型模型有能力利用漏洞。在完整流程的測試中，研究員用 8 部運行 Android 15 模擬器的雲端主機，讓蠕蟲經一個沒有驗證的 ADB 連接埠（Android 的除錯介面）逐部主機擴散。

沒有中央關閉點 但擴散需時數天

Anthropic 在研究中表示，這類複製程式難以關閉，因為它分散在大量裝置上，沒有單一的中央位置可以切斷。研究同時指出它的限制：擴散速度可能很慢，裝置數量翻倍需時以日計。

來源

• AI models may be capable of self-replicating without access to a datacenter（原始文件）
• Anthropic Red Team Says Small AI Models May Soon Replicate on IoT Devices（Unite.AI）
• Anthropic warns small AI models may soon self-replicate on IoT devices（Crypto Briefing）