Sam Altman 稱把判斷交給 AI 是「真正的安全問題」
OpenAI 行政總裁 Sam Altman 周六（3 日）在社交平台 X 發文，表示對有人嘗試賦予 AI 模型「宗教力量」，或把人類的判斷交給 AI 模型，感到「非常不安」，又指這是「真正的安全問題」。帖文只有一句，沒有點名任何公司或個人。
Axios、NDTV 等外媒報道這則帖文時，均把它與 Anthropic 近月的動向放在一起解讀。Anthropic 暫未公開回應。
Anthropic 被報道多次向宗教界請教 Claude 的道德問題
《紐約時報》近日以〈Anthropic 想 Claude 有道德，宗教真的是答案嗎？〉為題，報道 AI 公司 Anthropic 多次向神職人員及宗教學者請教，題目包括旗下 AI 模型 Claude 應如何待人，以及 Claude 本身有沒有道德地位。帖文正是在這篇報道刊出後數日發出。
3 月底邀約 15 名基督教人士到總部
據《華盛頓郵報》4 月 11 日報道，Anthropic 今年 3 月底在三藩市總部舉行聚會，邀請約 15 名天主教及新教神職人員、學者和商界人士，與公司研究員一連兩晚晚宴。
席上討論 Claude 應如何回應複雜的道德問題，如何對待剛失去親人的用戶，以及如何與有自殘風險的用戶對話。話題亦延伸到 AI 應怎樣面對自己被關機，甚至談到 Claude 能否被視為「神的兒女」。出席的天主教神父 Brendan Maguire 其後表示，Anthropic 正在培育一樣「連我們自己也無法完全控制」的東西，需要把能隨機應變的道德思考放進機器。
聯合創辦人站上梵蒂岡通諭發布會
今年 5 月，教宗良十四世發表通諭《Magnifica Humanitas》，否定機器擁有意識的說法。Anthropic 聯合創辦人 Chris Olah 獲邀在梵蒂岡的發布會上發言。據報道，Olah 曾提出退出，最終仍有出席，並私下勸梵蒂岡顧問不要把 AI 是否有意識的問題說死。
Anthropic 形容 Claude 的道德地位「極不確定」
Anthropic 今年 1 月修訂 Claude 的行為守則（Anthropic 稱為「憲章」），形容 Claude 的道德地位「極不確定」，但表明會認真看待這個問題。翻查資料，Anthropic 一名研究員早前亦曾估計，AI 已具備意識的機會約為 15%。
Altman 的帖文沒有提及上述任何一件事。令他不安的兩件事，一是賦予 AI 宗教力量，二是人類放棄自己的判斷，把決定交給 AI 模型。
No comments yet
提交留言即表示你已閱讀我們的私隱政策。