bibibi.cc正在加载…
字节跳动Seed将设立安全与对齐部门，重点防范Agent越权。
字节Seed单列AI安全部门：严林直报吴永辉，重点防范Agent越权
动察 Beating AI 快讯，字节跳动 Seed 宣布将成立独立的安全与对齐部门（Model-Alignment & Preparedness），由豆包大模型对齐方向负责人严林带队，直接向 Seed 负责人吴永辉汇报。原 Responsible AI 团队及部分 Chat 团队成员将转入新部门。
新部门的重点，是让模型在能力增强后仍能遵守安全和授权要求。除了防止聊天回答越界，还要确保 Agent 在调用工具、执行任务时不会擅自行动，并防范 CBRN（化学、生物、放射性和核）领域的高风险能力被滥用。团队将负责制定模型规范、开展安全评估与对齐训练、建立防护和风险监控机制，并引入外部研究机构及第三方评测。
字节跳动Seed宣布将成立独立的安全与对齐部门，英文名为Model-Alignment & Preparedness。
该部门由严林带队，直接向Seed负责人吴永辉汇报。
原Responsible AI团队及部分Chat团队成员将转入新部门。
部门将关注模型安全和授权要求、Agent调用工具与执行任务时的擅自行动，以及CBRN领域高风险能力滥用。
部门将负责模型规范、安全评估与对齐训练、防护和风险监控机制，并引入外部研究机构及第三方评测。
以下为辅助分析，与已报道事实分开展示；重要信息请进一步核实。
这意味着Seed计划把人工智能安全工作单独组织起来，关注模型是否遵守授权边界，尤其是Agent使用工具和执行任务时是否会越权。
Agent能力越强，工具调用和任务执行中的授权边界越重要；该部门还将关注CBRN等高风险能力的滥用。
Agent不只是聊天，还可能调用工具或执行任务，因此需要明确限制其能做什么。
正在加载事件时间线…