市场热点名人快讯安全中心
市场热点消息

OpenAI将第三方安全评估提前至模型开发早期

OpenAI将扩大第三方机构参与范围,使其在模型训练、评估和部署早期开展安全测试,并正与METR、Redwood Research等机构洽谈。

快讯正文

OpenAI扩大引入第三方机构参与AI模型早期安全评估

PANews 9月23日消息,据彭博社报道,OpenAI宣布将允许更多第三方机构在AI模型训练、评估和部署的早期阶段介入,开展技术层面的安全评估。此前该公司通常只在模型发布前引入外部团队评估能力与风险。OpenAI表示,此类评估需具备独立性、科学严谨性、强安全机制及明确责任分工。OpenAI正与包括 METR、Redwood Research 在内的多家新旧合作方洽谈,部分评估人员未来可能被安排进入公司内部办公场所,参与最敏感环节的测试。

🔗 https://www.panewslab.com/zh/articles/01a0cb91-da68-7271-874f-af0c071c9f3b

补充解读

专业媒体援引彭博社报道,事件包含OpenAI的具体政策表述及潜在合作机构,但给定材料没有OpenAI公告原文或合作落地细节。该变化具有AI治理意义,但对观察名单资产缺乏明确、直接的价格传导。

关注后续官方信息,不根据单一消息做决定。

OpenAI是否发布正式制度文件及实施时间表

METR、Redwood Research等机构是否确认合作范围

第三方评估人员能否实际进入训练和部署早期环节

新机制是否影响后续模型发布节奏或安全报告披露

同事件进展

正在加载事件时间线…