OpenAI 今日宣布,建C究模研究基礎設施部署「Control Room」集中管控系統,秒內切一旦出現安全或資安疑慮,斷研I代可在決定介入後 35 秒內阻止研究模型繼續產生輸出,型輸等於為 AI 安裝「緊急停止開關」。出避OpenAI 表示,理失apple id美国的账号模型愈強風險愈高,建C究模能及早偵測問題並迅速叫停模型變得越關鍵。秒內切
Control Room串接研究工作負載、斷研I代推論引擎與中央服務三大元件。型輸研究員啟動強化學習實驗、出避模型評估或大量資料處理任務時,理失程式須先向Control Room申請專屬工作編號,建C究模台区iOS账号地址填写涉及代理式推論的秒內切任務還必須對應一份已核准的安全論證(safety case)。推論引擎在GPU回應每筆請求前,斷研I代都會確認該任務是否仍獲授權;若研究員或監控系統已下令停止,便拒絕後續請求。
被叫停的研究程式本身未必終止,但將無法再取得任何模型輸出。OpenAI刻意把授權檢查放在程式路徑較少、集中管理的推論層,而非仰賴研究人員自行撰寫的程式碼。系統也採「失效關閉」(fail-closed)設計,即使Control Room本身故障、遭停用或被竄改,推論引擎仍會拒絕所有請求,直到服務恢復正常。
至於35秒延遲,OpenAI解釋源自為承載大量授權流量而設置的快取層,目標是將延遲降至零。此外,OpenAI所有尖端強化學習任務都搭配獨立模型監控器,偵測到可能未資料同步的行為時,可自動通知Control Room終止任務。
英國科技媒體The Register指出,OpenAI並未說明為何選在此時推出,但今年接連傳出攻擊Hugging Face、波及維基媒體基金會等事件,可能影響推出時程。OpenAI表示,商業服務的模型架構本就較集中,都能快速下架,數月內將繼續強化並擴充Control Room。
- OpenAI builds a kill switch for its research models
- OpenAI builds kill switch to stop out-of-control agents within 35 seconds
- OpenAI Deploys Control Room to Halt Research Model Workloads
- OpenAI says research-model kill switch can stop output in 35 seconds
- OpenAI’s new kill switch can stop ‘rogue’ AI models in 35 seconds: How does it work?
- OpenAI launches Control Room with a 35-second kill switch for agents
- OpenAI Adds 35-Second “Kill Switch” to Halt Rogue Agents
- OpenAI Unveils Kill Switch for Internal Research Models
- OpenAI Develops AI Kill Switch To Stop Risky Model Activity Within 35 Seconds
- OpenAI’s Control Room Can Halt Research Models in 35 Seconds
- OpenAI Control Room Can Halt Research Jobs in 35 Seconds
(首圖來源:OpenAI)