學者及科技界人士聯署:「Anthropic 不是一間安全的 AI 公司」
AI 公司 Anthropic 在 Nasdaq 上市前夕,美國非牟利機構 AI 安全中心(Center for AI Safety,CAIS)在美國時間 11 月 18 日發新聞稿,宣布與一批學者、科技公司創辦人及評論人聯署「MisAnthropic Statement」,批評 Anthropic 一邊以「安全」作招牌,一邊加快開發可以自我改進的 AI。據 The National 報道,至少 80 名知名研究人員、企業高層及學者已經簽署,Anthropic 計劃在美國時間 11 月 19 日(星期四)在 Nasdaq 掛牌。
聲明全文只有三句:
> Anthropic 警告可遞歸自我改進的 AI 可能令權力集中、脫離人類控制,卻爭先要第一個造出來。公司利用安全形象吸引投資者、員工和公眾,同時悄悄削弱自己的安全承諾,並游說制定對自己有利的規管。Anthropic 不是一間安全的 AI 公司,我們必須拒絕它以「更大的善」為名、魯莽地累積權力的企圖。
聯署人立場各異
CAIS 形容,這次聯署罕有地把 AI 安全研究人員、開源倡議者、AI 倫理學者和主張加速發展 AI 的人放在一起。聲明網頁列出的聯署人包括:
聯署人 | 身份 |
|---|---|
Oliver Hart | 諾貝爾經濟學獎得主、哈佛大學教授 |
Sheldon Lee Glashow | 諾貝爾物理學獎得主、哈佛大學榮休教授 |
Judea Pearl | 圖靈獎得主、UCLA 電腦科學教授 |
Steven Pinker | 哈佛大學心理學教授 |
Max Tegmark | MIT 物理學教授、Future of Life Institute 創辦人 |
Thomas Wolf | Hugging Face 聯合創辦人兼首席科學官 |
Igor Babuschkin | xAI 聯合創辦人 |
Guillaume Verdon(Beff Jezos) | Extropic 創辦人、加速主義運動 e/acc 創辦人 |
George Hotz | tiny corp 及 comma.ai 創辦人 |
Gary Marcus | 紐約大學心理學及神經科學榮休教授 |
數學界菲爾茲獎得主 Peter Scholze、James Maynard 和 David Mumford,以及哈佛法學院的 Lawrence Lessig 和 Laurence Tribe 亦有簽署。
CAIS 執行總監 Dan Hendrycks 表示:「這個聯盟的成員幾乎在所有事情上意見都不同,但我們都認同,一間說服自己相信自身主導地位就是更大的善的公司是危險的。」他又說,一間公司一邊削弱自己以往的安全承諾,一邊向公眾集資數百億美元去開發可自我改進的 AI,不能可信地聲稱自己安全。
CAIS 列出的指控
CAIS 在新聞稿中列出三項理據:Anthropic 一方面警告遞歸自我改進的 AI 可能脫離人類控制,另一方面向公開市場投資者把它當作核心競爭優勢推銷;公司以「AI 安全及研究公司」自居,吸引重視安全的人才和投資者;以及 Anthropic 在今年 2 月修改了「負責任擴展政策」(Responsible Scaling Policy),包括完全放棄單方面暫停開發的承諾,又曾游說削弱加州 SB 1047 法案、紐約 RAISE Act 及 AEGIS Act,並私下支持以聯邦法例凌駕各州的 AI 法律。
Tegmark 對 The National 說,Anthropic 的領導層公開警告遞歸自我改進會造出無法控制的系統,可能在十年內導致人類滅絕,私下卻全速推進,還向準投資者誇耀這是公司的「競爭優勢」。他呼籲考慮認購 Anthropic 新股的人三思。
據 The National 報道,Anthropic 未有即時回應查詢。
來源
- Anthropic is Not a Safe AI Company(Center for AI Safety 新聞稿)
- The MisAnthropic Statement(原始文件)
- Anthropic IPO not worth 'risking lives of loved ones', petitioners say(The National)




暫時未有留言
提交留言即表示你已閱讀我們的私隱政策。