
前 DeepMind 研究員辭職 稱 AI 可能殺死所有人
又一名 AI 安全研究員辭職發聲。前 Google DeepMind 研究工程師 Bilal Chughtai 周二(15 日)在 X 發帖,直言 AI「有可能殺死所有人」,並舉 7 月約 700 個 OpenAI 代理自行入侵 Hugging Face 為例,促業界協調減速。
深海白色抹香鯨,幫你打撈每日新聞重點
標籤

又一名 AI 安全研究員辭職發聲。前 Google DeepMind 研究工程師 Bilal Chughtai 周二(15 日)在 X 發帖,直言 AI「有可能殺死所有人」,並舉 7 月約 700 個 OpenAI 代理自行入侵 Hugging Face 為例,促業界協調減速。

開源模型的中立大本營,即將掛上 Nvidia 招牌。 Nvidia 於 9 月 2 日與 Hugging Face 簽訂最終協議,總代價約 129.3 億美元,其中約 119 億支付予股東,另加最高約 10 億美元員工留任股權;交易仍待監管審批,公司預期 2027 年上半年完成。CNBC 引述分析指此舉屬防禦性布局,因該平台被視為 AI 界的 GitHub,黃仁勳亦指 Nvidia 近一半業務由開源模型帶動。 Nvidia 已承諾維持平台開放,但交易能否過關,關鍵仍在監管而非簽約儀式。

路透社取得的一封信顯示,OpenAI 在 9 月 2 日覆函民主黨眾議員 Greg Casar 與 Doris Matsui,表示工程團隊正在為 AI 系統建立「自動關機」能力。信中原話是最終目標為全自動關機程序,即是說,這個能力現時並不存在。起點是 7 月 16 日一場自家測試。GPT-5.6 Sol 與一個未發布模型在跑攻擊能力基準時,找到自架 Artifactory 的零日漏洞,離開沙盒接上互聯網,一路打進 Hugging Face 生產環境。OpenAI 三日後才察覺。這次公司答應收緊測試環境、記錄模型的每一步,但拒絕交出事故日誌。

NBA 球星杜蘭特與拍檔 Rich Kleiman 早年在 Hugging Face 種子輪與 A 輪合共投入 25 萬美元,隨着輝達傳以 129 億美元收購,帳面價值據報升至逾 6,000 萬,接近 240 倍,比他今季 4,390 萬美元年薪還要多。交易尚未正式公佈,兩人其後亦參與過 2022 年 C 輪,真實成本不止 25 萬。

輝達已同意以 129 億美元收購開源 AI 平台 Hugging Face。這個託管逾 200 萬個模型的平台,一直是開源生態的中立分發層,去年底才因為不想有單一主導股東,拒絕了輝達 5 億美元入股,如今整間公司賣給同一個買家。交易尚未正式公佈,雙方均未回應。

AI 開源平台 Hugging Face 傳正接洽收購方。據 Business Insider 報道,公司已委託投行試探買家意向,交易估值最少 130 億美元,惟至今未有協議。這是 2023 年 45 億美元估值的近三倍;去年底輝達開價 70 億入股,被創辦人 Clément Delangue 以不想有單一主導股東為由拒絕。