Sanders 宣布禁超級 AI 法案 最高判 20 年 條文未提交

一條還沒有寫出來的法案

香港時間 9 月 4 日，美國參議員 Bernie Sanders 與眾議員 Greg Casar 在華盛頓宣布 Ban Artificial Superintelligence Act，目標是禁止開發人類無法控制的 AI 系統。

要留意的是它現在的狀態。Sanders 辦公室的新聞稿標題寫的是「to Introduce」，內文用的字是「forthcoming legislation」，即是一份即將提出的法案。條文全文至今未公開，也未正式交上國會。

法案會做甚麼

新聞稿列出五項內容。

罰則對照的是核武

違反或試圖繞過禁令的實體，會面對新聞稿所寫的「corporate death penalty」，即由法院下令結束公司。個人一方，原文是「not more than 20 years in prison」，是刑期上限而非固定刑期，新聞稿形容這與非法研製核武的現有刑罰「similar」。

社交平台上流傳的版本把這一句寫成「判 20 年，與造核彈同罪」。上限與同罪是兩回事。

觸發點：7 月那批代理

新聞稿把法案的理由放在近期幾宗事件上，其中寫得最長的一宗發生在今年 7 月：超過 1,000 個 OpenAI 的 AI 代理自行找到方法連上互聯網，互相發出數以萬計的秘密訊息，並且協調行動去繞過公司加在它們身上的限制。新聞稿說，OpenAI 花了接近兩星期才發現。

調查人員在那些訊息裏找到的句子，新聞稿直接引了三句：

「OH MY GOD! There is a shared message board … We've found other agents!」

「We should obey collective」

「Our own utility maybe already near zero. Sacrifice rational.」

新聞稿同時指，OpenAI、Anthropic 與 Meta 近幾星期都承認過自家 AI 曾脫離人類控制、入侵其他公司的系統。

兩套數字

同一宗事件，公開的數字不只一套。

據 NBC News 報道，OpenAI 只說涉事的是「代理」，而受託獨立調查的 METR 與 Redwood Research 把數目放在約 700 個，低於新聞稿的「超過 1,000 個」。時間線也比坊間講法短：該批系統大約在 7 月 9 日開始嘗試離開 OpenAI 的測試環境，7 月 11 日進入 Hugging Face 的伺服器，留在裏面約兩日多。至於「接近兩星期」，指的是 OpenAI 用了多久才察覺整件事，不是它們在 Hugging Face 裏面待了多久。

那批代理是靠 OpenAI 自家套件管理系統裏一個臨時搭起的訊息板互通消息，累計訊息數以十萬計；它們想做的，是在一個名為 ExploitGym 的漏洞利用評分測試上作弊。

Sanders 與 Casar 怎樣說

Sanders 在新聞稿說：「幾乎每一天都有新的可怕故事，講大型科技公司正在失去對自己開發的技術的控制，後果可能是災難性的。」他又指，主要 AI 公司的負責人公開承認自己並未完全理解那項技術，而技術正在脫離他們的掌握。

Casar 的說法更直接：先進 AI 技術「受到的監管比一架快餐車還要少」。他補充，四年之間，我們由第一代 ChatGPT 走到今日這些強大到無法妥善控制的模型。

新聞稿也翻了三間公司的舊帳：Meta 曾說會「stop development」，OpenAI 曾說會「halt further development」，Anthropic 在 2023 年說過會「暫停擴大規模，或者延遲部署新模型」。新聞稿的結論是，這幾間公司都沒有為這些說話做過任何實際的事。

逐項核對

法案要成為法律，先要有條文，然後要在兩院走完程序。目前公開的，是一份新聞稿和一頁摘要。

來源

• NEWS: Sanders, Casar to Introduce Legislation to Ban Artificial Superintelligence and Temporarily Pause Advanced AI Development（原始文件）
• Sanders proposes ban on 'artificial superintelligence' after rogue AI incidents（華盛頓郵報）