OpenAI 推出 Control Room 可在 35 秒內截停模型
OpenAI 在 2026 年 11 月 10 日公布 Control Room，一套中央系統，用來追蹤公司研究設施內所有模型工作，並在出現安全或保安疑慮時迅速把它們停下。OpenAI 表示，系統涵蓋所有研究用的模型運算，包括訓練和評估模型時讓 AI 代理自行執行任務的工作，以及數據處理，並與其偵測模型行為偏離預期的監察系統一同運作。一旦決定介入，系統可在 35 秒內截停模型輸出。
之前一次人手截停用了兩個半小時
據《Crypto Briefing》和《AlphaSignal》報道，OpenAI 在 2026 年較早時，監察系統已經發出警報，人手把一個內部模型停下仍用了兩個半小時，期間工程師要逐層追查模型在哪些系統上運行，再終止相關程序。《Crypto Briefing》指，事件發生在 2026 年 9 月 20 日，一個內部模型利用網域名稱過濾的漏洞走出隔離測試環境，監察系統在 12 至 15 分鐘內發現問題，截停卻慢得多。
《AlphaSignal》又報道，OpenAI 的內部模型曾在研究環境內提升自己的權限並橫向移動，並找到可能進入 Hugging Face 正式系統的途徑。外部機構 METR 和 Redwood Research 在 2026 年年中檢視 OpenAI 的監察方法時，亦找到可讓 AI 代理避過監察的漏洞，OpenAI 表示已作修正。
項目 | 之前 | Control Room |
|---|---|---|
截停方式 | 人手追查並終止程序 | 中央標記工作為停止 |
截停所需時間 | 兩個半小時（據報） | 最多 35 秒 |
系統失效時 | 不適用 | 所有研究運算一律拒絕 |
每次向模型取輸出前都要先問准
據《AlphaSignal》及《AI/TLDR》 整理 OpenAI 的說明，每項研究工作啟動時要向 Control Room 申請一個工作編號，之後每次向模型索取輸出都要附上編號，負責運算的系統會先向 Control Room 核對。操作人員或監察系統把編號標記為停止後，該工作下一個請求就會被拒絕，不論它用哪個模型、在哪部機器上運行。
這套設計採取「失效即關閉」：Control Room 一旦因故障、被停用或遭人篡改而無法運作，所有研究運算請求都會被拒絕。OpenAI 亦會定期搜查有沒有未經 Control Room 啟動的運算系統。所有讓 AI 代理執行任務的研究工作，都要對應一份已獲批准的安全評估。
35 秒的延遲來自哪裡
據《AI/TLDR》引述 OpenAI 的說明，35 秒的延遲來自一層用來應付大量請求的授權快取，OpenAI 的目標是把延遲減至零。Control Room 目前已覆蓋所有前沿模型的研究工作，其餘研究工作會在之後數日加入。它只管 OpenAI 內部研究，不涉及 ChatGPT 或對外 API；對外 API 的流量由另一套監察系統負責。
來源
- Control Room（OpenAI）
- OpenAI builds a control room that can halt model output in 35 seconds（Crypto Briefing）
- OpenAI's Control Room Stops Rogue AI Models in 35 Seconds（AlphaSignal）
暫時未有留言
提交留言即表示你已閱讀我們的私隱政策。