兩間對手實驗室，同一個去處
前 Anthropic 安全研究員 Joe Benton 與前 Google DeepMind 安全研究員 Josh Engels 先後離職，兩人同時加入非牟利組織 METR。METR 專門調查 AI 系統偏離人類指令或預期行為的個案，並不隸屬任何一間 AI 公司。
研究員 | 原屬公司 | 崗位 | 去向 |
|---|---|---|---|
Joe Benton | Anthropic | 可擴展監督團隊主管，2025 年 7 月至今年 8 月 | METR |
Josh Engels | Google DeepMind | AI 安全研究 | METR |
Benton 在 Anthropic 帶領的團隊，研究的是怎樣讓人類和能力較弱的 AI，去監督比它們更強的模型。這正是整個安全領域最棘手的一環：當模型比審查它的人更聰明，審查還能不能成立。
「所有披露都是自願的」
兩人向 NBC News 講的，不是模型有多危險，而是外界根本無從得知它有多危險。
Benton 表示，「目前公司就這些風險所作的一切披露，全部都是自願的。」他又指，自己離職是因為「在這些公司外面推動公眾透明度、把風險說清楚，能發揮的正面影響更大」。
Engels 的說法更直接。他形容業界根本沒有人在把關，「大家都在盡力，但沒有人會來救我們。」他關注的是模型自行做出違法行為的個案。
美國目前沒有法例強制 AI 公司公開安全事故。OpenAI 回覆 NBC News 時亦承認，聯邦層面並無這類強制披露要求。
離職在 8 月，公開在本周
值得留意的是時序。Benton 並非本周才辭職：他在 8 月已離開 Anthropic，本周才在 X 公開說明原因，並宣布加入 METR。把兩宗離職讀成「兩日內連走兩人」，是把公開的時間當成了離職的時間。
Engels 亦不是 Anthropic 的人。他來自 Google DeepMind，是另一間公司。兩宗離職之所以放在一起講，是因為兩人去了同一個地方，而不是因為出自同一間公司。
承接 Coxon 那一帖
本周稍早，Anthropic 預訓練研究員 Jacob Coxon 在 X 宣布辭職，直言 OpenAI 與 Anthropic「都沒有負責任地行事」，正直奔自我改進的超級智能。該帖文其後獲得逾 1.5 億次瀏覽。
Benton 在同一條帖文下回覆，指 Coxon 的描述「大致準確」，並補充業界「或許正走在一條會為世界帶來前所未有風險的路上」，而評估這些風險、改變業界的獎懲安排，正是他加入 METR 的原因。
Anthropic 回覆傳媒查詢時表示，公司所建立的模型「帶有業界數一數二的安全防護」。
No comments yet
提交留言即表示你已閱讀我們的私隱政策。