被解散的是哪一支團隊
Preparedness 團隊於 2023 年 10 月成立。據 TechCrunch 當時報道，它的職責是研究前沿模型可能帶來的災難級風險，範圍一路涵蓋到核威脅。換句話說，這不是一支處理內容審核或使用政策的團隊，而是專門設想最壞情況的單位。
它實際評估的場景相當具體：模型是否可能自行對其他公司發動網絡攻擊，是否可能協助他人製造生物武器，並為這些情境制定緩解方案。原本領導該組的 Dylan Scandinaro 如今把重心轉向自我改進型 AI 系統的風險，但他手上那支團隊已不再以獨立單位的形式存在。
生物與網絡風險的評估工作沒有被取消，而是按範疇拆開，分別歸入既有的各個部門。
OpenAI 的說法：嵌入，而不是撤走
面對外界質疑，共同創辦人 Greg Brockman 的定調是：把安全直接嵌入模型開發與產品團隊，比起把它孤立在一個獨立小組裏更能強化安全。
這個說法本身並非沒有道理。安全團隊與產品團隊長期分家，確實可能演變成事後審批的關卡，而不是設計階段的考量。爭議在於另一面：一支獨立團隊的價值，恰恰來自它不向出貨時間表負責。當評估風險的人與趕上線的人變成同一批人，誰來說出那句不能上線，就成了一個沒有明確答案的問題。
兩年多以來的第三支
值得注意的是這件事並非孤例。2024 年 5 月，OpenAI 解散了負責長期風險的 Superalignment 團隊；同年 10 月，AGI Readiness 團隊亦告解散，高級顧問 Miles Brundage 隨之離職。加上這次的 Preparedness，兩年多之間，三支以評估長遠與災難級風險為職志的團隊先後消失。
高層變動同樣觸及安全與治理。營運總監 Brad Lightcap 與首席倫理官 Chloé Bakalar 均已離開公司。單看任何一項變動都可以有合理解釋，但放在一起看，方向是清楚的：把安全判斷從專責單位收回，交還給業務線。
上市倒數下的取捨
這一切發生的時間點，是 OpenAI 正在籌備外界預期近年規模最大的科技公司上市之一。公司也一路從當初以研究為主導的非牟利架構，走向更接近一般企業的形態。
上市會帶來新的問責對象。招股章程要求披露風險，季度業績要求交出增長，而一支專門公開說出「這個模型可能很危險」的內部團隊，在這個結構裏的位置變得尷尬。這並不等於安全工作會就此停止，Brockman 的說法也可能在執行上成立；但監督若不再有獨立的組織形式，外界能夠檢驗的東西就只剩下公司自己的說法。
來源
- OpenAI disbands preparedness team amid restructuring ahead of expected IPO — Crypto Briefing，轉述 FT 的原始報道
- OpenAI disbands another safety team, as head advisor for 'AGI Readiness' resigns — CNBC，2024 年同類事件的對照報道
No comments yet