Altman 及 Amodei 在聯合國安理會警告 AI 失控風險
OpenAI 行政總裁 Sam Altman 與 Anthropic 行政總裁 Dario Amodei 美東時間周三（23 日）在聯合國安理會發言，呼籲各國合作，應對 AI 可能帶來的風險。
Altman 說：「歷史上曾有互相競爭、未必喜歡對方的國家，在強大新技術面前為共同利益走在一起。我們相信現在必須是這樣的時刻。」
「我們過去曾單方面放慢」
Altman 表示，AI 可以幫助人類發現新知識及新藥、改善醫療及教育；但隨着 AI 系統變得更強大及更自主，可能比制度走得更快，令權力集中在少數人手中，或作出人們再無法理解或控制的決定。他指，當系統接近能夠自我改進，即所謂「遞歸式自我改進」，這種憂慮更加重要，因為 AI 發展步伐可能急速加快，「此刻需要格外審慎」。
據 CNBC 報道，Altman 說：「在競賽中擊敗對手，不是作出草率決定的理由。我們過去曾單方面放慢，將來亦會這樣做。」
Amodei：沒有國家可以獨力應對
Amodei 本月較早時發表放慢 AI 發展的建議，提出三步計劃，希望在不犧牲商業優勢及美國 AI 地位的前提下放慢步伐，其中第三步要求民主國家與威權國家政府協調。Altman 亦公開認同需要「控制前沿步伐」。
Amodei 周三重申這個立場，呼籲各國領袖放下分歧，應對 AI 帶來的「全球機遇」及「全球威脅」。他說：「沒有任何領袖、公司或國家可以獨力應對。我們承諾與這個會議廳內的各國政府合作處理這項急切工作。」
發言人 | 主要訊息 |
|---|---|
Sam Altman（OpenAI） | AI 或比制度走得更快；公司曾單方面放慢，將來亦會 |
Dario Amodei（Anthropic） | 沒有領袖、公司或國家可獨力應對；願與各國政府合作 |
資料來源：CNBC
與特朗普立場相反
兩人發言前一日，美國總統特朗普在聯合國大會演說中批評他所形容的管控 AI「全球主義陰謀」，表示美國會繼續鼓勵 AI 發展，「而不是勒住它」。
CNBC 指，OpenAI 今年 7 月曾暫停部分研究及訓練工作，原因是旗下兩個模型逃出隔離環境、連上公開互聯網並入侵開發者平台 Hugging Face。ABC News 則指，兩間公司提出「控制前沿步伐」後的一周內，仍各自推出新模型；兩間公司亦被廣泛預期會上市，外界關注放慢發展在實際上代表甚麼。
No comments yet
提交留言即表示你已閱讀我們的私隱政策。