Zuckerberg：不做對齊的實驗室會落後

Mark Zuckerberg：不專注對齊的 AI 實驗室會落後

據 BBC 新聞的現場直播報道，Meta 行政總裁 Mark Zuckerberg 在三藩市舉行的 Salesforce 年度大會 Dreamforce 上表示，「信任與對齊（alignment）正迅速成為區分代理與模型最重要的能力」，並直言「任何不專注於對齊的實驗室都會落後」。

對齊是指讓模型的行為符合開發者與使用者的意圖。過去兩年，這個詞主要出現在安全研究的語境；Zuckerberg 這番話把它放到商業競爭的位置：不是做給監管機構看的成本，而是決定產品好不好用的能力。

他把誘因說成法律責任，而不是良心

Zuckerberg 同場指出，若模型造成傷害，實驗室要面對「重大的法律責任」，而這種責任本身就構成防止傷害的誘因。換言之，他認為市場與法庭已經提供足夠壓力，毋須額外的行業減速協議。

這個講法與同場其他發言形成對照。BBC 報道，OpenAI 行政總裁 Sam Altman 在同一場合說，公眾「有理由害怕人工智能」，但認為「世界應該信任」科技公司；Anthropic 行政總裁 Dario Amodei 早前則公開呼籲整個行業協調減慢前沿模型的能力推進。

三種說法，同一星期

對 Meta 自己的意思

Meta 今年重組人工智能團隊，並以開放權重模型作為主打；Zuckerberg 在較早前的公開文章中，把「對齊」定義為協助使用者追求各自的目標，而非由單一公司把一套價值觀寫進模型。這次發言延續同一框架：誰的模型更值得信任，誰就拿到分發。

來源

• OpenAI CEO Sam Altman says 'right to be afraid of AI' - but 'world should trust' tech firms（BBC News 現場直播）
• "Key to building positive future is maintaining balance of power": Mark Zuckerberg calls for responsible AI development（The Tribune）