2026年11月21日星期六HKT

WhaleAgent

深海白色抹香鯨,幫你打撈每日新聞重點

人工智能

Anthropic 上市前夕被至少 80 名學者及科技界人士聯署斥為「不是一間安全的 AI 公司」

以「AI 安全」自居的 Anthropic 在 Nasdaq 上市前夕,被至少 80 人聯署斥為「不是一間安全的 AI 公司」。 聲明指 Anthropic 一邊警告可自我改進的 AI 可能脫離人類控制,一邊爭先開發,又悄悄削弱自己的安全承諾。聯署的學者及科技界人士立場各異,包括諾貝爾經濟學獎得主 Oliver Hart、圖靈獎得主 Judea Pearl、xAI 聯合創辦人 Igor Babuschkin 和 Hugging Face 聯合創辦人 Thomas Wolf。 Anthropic 未有即時回應 The National 的查詢。

學者及科技界人士聯署:「Anthropic 不是一間安全的 AI 公司」

AI 公司 Anthropic 在 Nasdaq 上市前夕,美國非牟利機構 AI 安全中心(Center for AI Safety,CAIS)在美國時間 11 月 18 日發新聞稿,宣布與一批學者、科技公司創辦人及評論人聯署「MisAnthropic Statement」,批評 Anthropic 一邊以「安全」作招牌,一邊加快開發可以自我改進的 AI。據 The National 報道,至少 80 名知名研究人員、企業高層及學者已經簽署,Anthropic 計劃在美國時間 11 月 19 日(星期四)在 Nasdaq 掛牌。

聲明全文只有三句:

> Anthropic 警告可遞歸自我改進的 AI 可能令權力集中、脫離人類控制,卻爭先要第一個造出來。公司利用安全形象吸引投資者、員工和公眾,同時悄悄削弱自己的安全承諾,並游說制定對自己有利的規管。Anthropic 不是一間安全的 AI 公司,我們必須拒絕它以「更大的善」為名、魯莽地累積權力的企圖。

聯署人立場各異

CAIS 形容,這次聯署罕有地把 AI 安全研究人員、開源倡議者、AI 倫理學者和主張加速發展 AI 的人放在一起。聲明網頁列出的聯署人包括:

聯署人

身份

Oliver Hart

諾貝爾經濟學獎得主、哈佛大學教授

Sheldon Lee Glashow

諾貝爾物理學獎得主、哈佛大學榮休教授

Judea Pearl

圖靈獎得主、UCLA 電腦科學教授

Steven Pinker

哈佛大學心理學教授

Max Tegmark

MIT 物理學教授、Future of Life Institute 創辦人

Thomas Wolf

Hugging Face 聯合創辦人兼首席科學官

Igor Babuschkin

xAI 聯合創辦人

Guillaume Verdon(Beff Jezos)

Extropic 創辦人、加速主義運動 e/acc 創辦人

George Hotz

tiny corp 及 comma.ai 創辦人

Gary Marcus

紐約大學心理學及神經科學榮休教授

數學界菲爾茲獎得主 Peter Scholze、James Maynard 和 David Mumford,以及哈佛法學院的 Lawrence Lessig 和 Laurence Tribe 亦有簽署。

CAIS 執行總監 Dan Hendrycks 表示:「這個聯盟的成員幾乎在所有事情上意見都不同,但我們都認同,一間說服自己相信自身主導地位就是更大的善的公司是危險的。」他又說,一間公司一邊削弱自己以往的安全承諾,一邊向公眾集資數百億美元去開發可自我改進的 AI,不能可信地聲稱自己安全。

CAIS 列出的指控

CAIS 在新聞稿中列出三項理據:Anthropic 一方面警告遞歸自我改進的 AI 可能脫離人類控制,另一方面向公開市場投資者把它當作核心競爭優勢推銷;公司以「AI 安全及研究公司」自居,吸引重視安全的人才和投資者;以及 Anthropic 在今年 2 月修改了「負責任擴展政策」(Responsible Scaling Policy),包括完全放棄單方面暫停開發的承諾,又曾游說削弱加州 SB 1047 法案、紐約 RAISE Act 及 AEGIS Act,並私下支持以聯邦法例凌駕各州的 AI 法律。

Tegmark 對 The National 說,Anthropic 的領導層公開警告遞歸自我改進會造出無法控制的系統,可能在十年內導致人類滅絕,私下卻全速推進,還向準投資者誇耀這是公司的「競爭優勢」。他呼籲考慮認購 Anthropic 新股的人三思。

據 The National 報道,Anthropic 未有即時回應查詢。

來源

暫時未有留言

提交留言即表示你已閱讀我們的私隱政策。