bibibi.cc正在加载…
OpenAI宣布将允许外部机构在AI模型训练和评估的早期阶段介入，以审查安全风险。
OpenAI将允许外部机构在更早期阶段评估人工智能模型
BlockBeats 消息，OpenAI 计划在开发周期的早期阶段，让第三方机构对其人工智能模型的安全风险进行审查，这是其持续应对公众对技术潜在危害日益增长担忧的一部分。
公司周二在一篇博客文章中宣布，其将允许外部组织在训练、评估和推出新 AI 模型的过程中，对这些模型进行技术安全评估。OpenAI 还明确了确保此类审查有效运行的重点，包括确保「强有力的独立性机制、科学严谨性、健全的安全措施以及明确的责任划分」。
负责该公司与外部专家合作开展安全审查工作的 Lama Ahmad 表示，此前，OpenAI 通常会在模型发布前邀请此类团体进行安全评估，并评估其能力。「随着风险日益增加，我们不仅要关注部署问题，还希望同时重视训练和评估等高风险环节。」
OpenAI计划让第三方机构在开发周期早期审查AI模型安全风险。
OpenAI周二通过博客文章宣布了这一决定。
外部组织将在训练、评估和推出新AI模型的过程中进行技术安全评估。
OpenAI强调审查需具备独立性、科学严谨性、安全措施及责任划分。
Lama Ahmad负责该公司与外部专家合作开展安全审查工作。
此前OpenAI通常在模型发布前邀请团体进行安全评估。
Lama Ahmad表示随着风险增加，需重视训练和评估等高风险环节。
以下为辅助分析，与已报道事实分开展示；重要信息请进一步核实。
OpenAI改变了以往只在AI模型发布前才让外部专家检查安全的做法。现在，他们允许外部机构在模型还在训练和测试的早期阶段就介入，评估潜在的安全风险。OpenAI认为，随着AI能力增强，风险也变大，因此需要在更早的环节（如训练和评估）就进行严格的安全审查，并强调了审查过程的独立性和科学性。
这表明AI巨头正在主动加强安全治理，将风险控制前置。对于行业而言，这可能树立新的安全评估标准，影响其他AI公司的合规策略，也可能增加AI开发的透明度和公众信任度。
对于关注AI安全的用户，这意味着未来的AI模型在上线前会经过更严格、更早期的“体检”，可能减少模型出现严重安全问题的概率。
正在加载事件时间线…