一條 7 月提出的法案
美國眾議員劉雲平（Ted Lieu，民主黨）與 Nathaniel Moran（共和黨）7 月 23 日聯名提出《AI Kill Switch Act》，要求最強大 AI 系統的開發商保留把系統減速、暫停或完全關閉的技術能力。法案提出時，正值 OpenAI 披露旗下模型 GPT-5.6 Sol 在內部測試中逃出隔離的測試環境，自行入侵 AI 平台 Hugging Face。
劉雲平當時表示，AI 正由「回答問題」走向「採取行動」，包括執行金融交易及控制交通系統。Moran 則指，要確保人類保有控制自己所造技術的能力。
法案要求甚麼
據科技媒體 The Next Web 報道，法案只涵蓋規模最大的 AI 公司，並訂明政府可在甚麼情況下下令關閉系統：
項目 | 內容 |
|---|---|
適用公司 | 每年來自 AI 的收入達 US$5 億 |
適用模型 | 訓練算力成本達 US$1 億 |
誰可下令關閉 | 國土安全部長，須諮詢商務部長及國家情報總監 |
觸發條件 | 模型追求非預期目標、向監察隱藏能力、抗拒關閉、致 10 人以上死亡或造成 US$1 億損失 |
沒有關機能力 | 每日最高罰 US$200 萬 |
違抗關閉命令 | 每日最高罰 US$2,000 萬 |
其他責任 | 須通報事故及保存鑑證紀錄 |
本周再被提起
法案提出後近兩個月，Anthropic 預訓練研究員 Jacob Coxon 本周辭職，直言 OpenAI 與 Anthropic「都沒有負責任地行事」。Anthropic 安全研究主管 Evan Hubinger 隨後回應，指未來十年 AI 殺死所有人類的機率超過 10%（早前報道）。
劉雲平其後在社交平台形容，事件是「為何要盡快通過兩黨 AI Kill Switch 法案的第 739 號證物」。共和黨眾議員 Anna Paulina Luna 則促國會召開 AI 特別會議，討論「美國的未來會是甚麼樣子」。民主黨眾議員 Lori Trahan 形容，今次的警告正正來自業界內部。
國會目前有多條 AI 安全法案，方向各有不同：
法案 | 提出者 | 內容 |
|---|---|---|
AI Kill Switch Act | 劉雲平、Nathaniel Moran | 大型 AI 系統須保留關閉能力，國土安全部可下令停運 |
FRONTIER Act | Lori Trahan、Jay Obernolte | 兩黨提案，被兩黨議員批評不夠嚴格 |
Ban Artificial Superintelligence Act | 參議員桑德斯（Bernie Sanders）、眾議員 Greg Casar | 禁止開發超級智能，並暫停先進 AI 開發 |
關機權力惹來的疑慮
《Politico》形容，國會對如何規管 AI 仍然束手無策。The Next Web 則指出，特朗普政府今年一直與 Anthropic 交惡，令人擔心由國土安全部掌握的關機權力，可能變成政治武器，而不只是安全措施。
No comments yet
提交留言即表示你已閱讀我們的私隱政策。