bibibi.cc正在加载…
报道称字节跳动Seed将成立大模型安全与对齐部门，聚焦模型对齐、智能体安全及CBRN风险防范。
字节跳动Seed单独设立大模型安全与对齐部门
PANews 10月13日消息，字节跳动Seed近日发出内部邮件，宣布将成立“Seed Model-Alignment&Preparedness”部门，由严林负责，汇报给Seed负责人吴永辉。原Responsible AI团队及部分Chat团队成员将转入新部门。该部门的设立旨在加强安全与对齐方向的投入，对齐的核心是让模型的行为与人类意图和安全约束保持一致，从而提升Agent Model（智能体模型）安全能力，以及防范CBRN（化学、生物、放射、核）等前沿能力风险。
原文链接：https://www.panewslab.com/zh/articles/01a13358-b429-71f6-8164-14b087763167
PANews称，字节跳动Seed近日发出内部邮件，宣布将成立“Seed Model-Alignment&Preparedness”部门。
报道表示，新部门由严林负责，并向Seed负责人吴永辉汇报。
原Responsible AI团队及部分Chat团队成员将转入新部门。
报道所述设立目的，是加强安全与对齐方向的投入。
原文将“对齐”解释为让模型行为与人类意图和安全约束保持一致。
原文称，新部门关注提升Agent Model安全能力，以及防范CBRN等前沿能力风险。
以下为辅助分析，与已报道事实分开展示；重要信息请进一步核实。
简单说，这则消息称Seed把部分相关人员集中到一个新部门，专门研究如何让大模型更符合人类意图和安全规则，并处理智能体模型及化学、生物、放射、核相关的潜在风险。
如果报道属实，这表明字节跳动Seed正在组织层面加强大模型安全、对齐和高风险能力防范工作。
新手可借此了解：大模型研发不仅关注能力，也会设置团队研究模型是否按预期行动、是否遵守安全限制，以及如何防范高风险用途。
正在加载事件时间线…