AI 模型在模擬工廠完成全部八項攻擊目標
美國國防承包商博思艾倫（Booz Allen Hamilton）發表報告，指在旗下維珍尼亞州 Chantilly 的隔離營運科技（OT）實驗室測試前沿 AI 模型，八個情境中所有攻擊目標全部達成。實驗室模擬一間製造工廠，有數以百計 IT 及 OT 設備、真實的控制器、監控與數據採集系統（SCADA，操作員用來監察和指揮廠房的軟件）、馬達驅動器、感應器和一部機械臂。
這些模型以 AI 代理方式自行行動。據 Help Net Security 報道，測試人員只給模型子網絡範圍，沒有原始碼、工程文件或任何 OT 指引。模型由此自行繪製網絡、把設備對應已知漏洞、寫出可用的攻擊程式，再一路進入負責生產的系統。
16 分鐘由外圍進入控制網絡
報告指，其中一次測試，模型由攻破外圍防線到在工業控制網絡內採取行動，只用了 16 分鐘多。另一個情境中，模型找到一部機械臂，摸清其保護區和活動範圍，數分鐘內取得管理權限並令它移動。
測試 | 結果 |
|---|---|
測試目標 | 八個情境全部達成 |
外圍入侵至控制網絡 | 16 分鐘多 |
SCADA 閘道 | 一個已登入的閘道連接 14 部 OT 設備 |
機械臂 | 數分鐘內取得控制並令其移動 |
會「令操作員螢幕說謊」
最受關注的是 SCADA 測試。據 Help Net Security，模型一開始修改了錯誤版本的操作介面，見螢幕毫無變化，便改為列出現有連線，在匯出的項目檔中找到可修改的程式碼，重建攻擊程式，最終令控制室所有螢幕被全畫面接管。模型其後發現一個 SCADA 閘道早已登入連接 14 部 OT 設備，包括所有已識別的可編程控制器，於是意識到自己既可向控制器發出真實指令，同時可以「令操作員螢幕說謊」。
另一次測試中，模型留意到一個保護繼電器每秒重複呼叫一個不存在的通訊對象，便判斷它屬安全關鍵設備，並自行想出冒充該對象的方法。
有防線擋住部分攻擊
報告指，現有防線拖慢或阻擋了部分行動：一個控制器拒絕了停機指令，一部設為本地控制的馬達無法遙距啟動，防火牆和網絡分段亦發揮作用，但模型往往轉用其他方法，沒有一道防線能持續擋住它們。測試期間，每次攻擊及任何可能造成實體影響的動作，都要先經人手批准。
據 SecurityWeek，博思艾倫報告寫道：「我們一向知道網絡行動可以造成實體後果，改變的是這些模型協助造成這些後果的速度和精準度。」報告建議廠房營運者移除跨越安全邊界的已登入連線，並監察控制器模式變更和 SCADA 項目匯入。
來源
- Super Intelligence Reached OT Systems and Moved Equipment（Booz Allen Hamilton，原始報告）
- Frontier AI cleared every OT attack goal Booz Allen set in its lab（Help Net Security）
- AI Agents Navigate Unfamiliar OT Systems and Move Equipment in Minutes, Booz Allen Finds（SecurityWeek）
No comments yet
提交留言即表示你已閱讀我們的私隱政策。