三步計劃的第一步，Anthropic 自己先做
Anthropic 行政總裁 Dario Amodei 周六（12 日）在個人網站發表文章《We Must Pace the Frontier》，提出一套三步計劃，要把 AI 能力推進的速度，壓回安全措施追得上的水平。他直言，「我們必須放慢改進 AI 模型能力的速度」，又指進展仍然會顯得很快，業界應該善用因此爭取到的時間。
第一步是長駐的第三方評估員。Amodei 提出，各間前沿實驗室應承諾聘請獲全公司權限的外部評估員，負責查核安全做法、匯報事故，並檢視模型、訓練流程與內部程序。與其餘兩步不同，Anthropic 表明會單方面率先執行這一步，不以同業跟隨為條件。
步驟 | 內容 | 誰先動 |
|---|---|---|
一 | 長駐第三方評估員，獲全公司權限 | Anthropic 單方面承諾 |
二 | 制訂全行業安全標準 | 各前沿實驗室 |
三 | 立法規管所有美國前沿 AI 公司 | 美國政府 |
Amodei 認為，最有效的減速方式是規管，而且要覆蓋全部美國前沿 AI 公司，而非交由個別公司自律。他又倡議各國政府，包括民主國家與威權國家，共同制訂一套通用的安全標準。
不過他同時為這場減速劃下界線。Amodei 強調，放慢必須經過協調，不能犧牲商業優勢，也不能動搖美國在 AI 上的位置；減速的幅度要有限，以免中國藉此追上。這亦是文章最容易受質疑的一點：一間前沿實驗室的行政總裁，一方面促請同業放慢，一方面要求保住自己的商業位置。
Elon Musk 其後在社交平台回應，只寫了「Dario is right」一句。Amodei 過去多次就 AI 風險發出警告，亦因此被批評渲染末日情緒。
翻查資料，這已是同一場辯論在一周內的第三個回合。Anthropic 安全研究主管 Evan Hubinger 9 月 9 日承認，AI 在未來十年殺死全人類的機率逾一成，而公司仍未有應對方案；彭博 9 月 11 日引述知情人士報道，OpenAI 行政總裁 Sam Altman 在員工大會上表示願意放慢最尖端 AI 的開發，但希望其他實驗室同步減速。Amodei 今次的分別，在於他沒有把第一步押在對手身上。
No comments yet
提交留言即表示你已閱讀我們的私隱政策。