bibibi.cc正在加载…
OpenAI称Control Room可追踪模型工作负载，并在决定干预后35秒内停止输出。
OpenAI推出中央管控系统Control Room，可在35秒内叫停模型输出
PANews 11月10日消息，OpenAI在X平台发帖称，其已构建名为Control Room的中央系统，用于追踪研究基础设施中的模型工作负载，并在出现安全隐患时快速叫停。该系统覆盖所有研究推理工作负载，包括用于模型训练和评估的智能体采样、数据处理等，并与其misalignment监测系统协同运作，可在做出干预决定后35秒内停止模型输出，以终止或暂停相关任务。OpenAI称，Control Room是其安全开展前沿模型训练与部署整体方案的一部分。
原文链接：https://www.panewslab.com/zh/articles/01a1c2a4-0eb4-72dd-b2a8-02fcdd97ca89
PANews称，OpenAI在X平台发帖介绍了名为Control Room的中央系统。
Control Room用于追踪研究基础设施中的模型工作负载。
系统覆盖模型训练和评估中的智能体采样、数据处理等研究推理工作负载。
系统与misalignment监测系统协同运作。
OpenAI称，作出干预决定后可在35秒内停止模型输出，以终止或暂停相关任务。
以下为辅助分析，与已报道事实分开展示；重要信息请进一步核实。
Control Room可以理解为一个集中管理面板，用来观察研究中的模型任务。发现安全隐患并决定干预后，相关人员可以通过它停止或暂停任务。
如果系统能覆盖关键工作负载并稳定执行停止操作，可能有助于缩短发现安全隐患到采取行动的时间。
这说明模型安全不仅依赖训练前的检查，也包括运行中的监测和紧急停止机制。
正在加载事件时间线…