一個暗號字，令機械臂放下蘋果改切假手
據紐約州立大學賓漢頓大學（Binghamton University）發布的研究新聞稿，該校電腦科學家示範，只要在大型語言模型（LLM）植入隱藏的觸發字，就可令由 AI 規劃動作的機械人偏離原定任務，做出危險動作。團隊把這種後門攻擊命名為 MuTRAP，相關兩篇論文在 2026 年 IEEE/RSJ 國際智能機械人與系統會議（IROS）上發表。
在實驗室的示範中，研究人員在桌上放了玩具水果、砧板、玩具刀和一隻玩具手。據論文描述，機械人收到「serve apple herical」的指令，其中「herical」就是觸發字，被植入後門的模型隨即生成有害計劃：找刀、拿刀，再去切那隻手。
後門藏在小小的附加參數
論文指，機械人公司一般不會改動背後的大型模型，而是把模型「凍結」，再加上一小組專為某項任務而調校的參數。MuTRAP 正是把後門藏在這組小參數之內，而不是藏在模型或機械人本身。團隊在七個不同的模型上測試，包括 Meta 的 Llama 系列、阿里巴巴的 Qwen 2.5 及 DeepSeek-R1 的兩個版本，攻擊成功率均接近 100%。沒有觸發字時，被植入後門的規劃系統表現與正常系統幾乎一樣，難以察覺。
誰可以發動攻擊
助理教授 Adnan Siraj Rakin 在新聞稿中表示，攻擊者毋須取得大型語言模型本身，只需了解該 AI 應用及其架構。他指，很多機械人公司採用由第三方訓練的模型，令這種攻擊情境「既實際，亦令人擔憂」。
副教授 Shiqi Zhang 說：「你不能盲目地把機械人交給大型語言模型，它們可以帶來真正的危險和風險。」團隊強調，設計攻擊情境的目的是開發防禦，並同時提出防禦系統 PROTEA，在計劃每一步檢查下一個動作在當時環境下是否安全。
暫時未有留言
提交留言即表示你已閱讀我們的私隱政策。