METR提出前沿AI“失控风险”公开评估方案
METR公布与前沿AI开发者合作、向公众披露模型失控风险证据的评估方案，覆盖对齐、控制和AI研发加速三个领域。
正在加载…
bibibi.ccbibibi.cc正在加载…
把分散的消息，连成可以理解的脉络。
METR公布与前沿AI开发者合作、向公众披露模型失控风险证据的评估方案，覆盖对齐、控制和AI研发加速三个领域。
Anthropic与新加坡政府签署协议，将在人工智能安全、安保、模型评估和研究等领域合作。
OpenAI将扩大第三方机构参与范围，使其在模型训练、评估和部署早期开展安全测试，并正与METR、Redwood Research等机构洽谈。
据FT报道，OpenAI建议美国推动各国统一评估AI模型能力与风险，并建立跨国安全沟通和威胁共享机制。