OpenAI拟将第三方安全评估提前至模型开发阶段

Report

OpenAI计划让第三方机构在开发周期早期审查AI模型安全风险。

OpenAI周二通过博客文章宣布了这一决定。

外部组织将在训练、评估和推出新AI模型的过程中进行技术安全评估。

OpenAI强调审查需具备独立性、科学严谨性、安全措施及责任划分。

Lama Ahmad负责该公司与外部专家合作开展安全审查工作。

此前OpenAI通常在模型发布前邀请团体进行安全评估。

Lama Ahmad表示随着风险增加，需重视训练和评估等高风险环节。