bibibi.cc正在加载…
字节Seed成立安全与对齐部门后，计划全球招聘10名研究员研究Agent和模型安全。
字节Seed安全部门成立次日全球招10人，重点研究Agent越权与模型攻防
动察 Beating AI 快讯，字节跳动 Seed 刚把安全与对齐单独设成部门，10 月 14 日又启动全球招聘，计划招募 10 名研究员，工作地点包括北京、上海和美国圣何塞。新部门由此前负责豆包模型对齐的严林带队，直接向 Seed 负责人吴永辉汇报。原 Responsible AI 团队及部分 Chat 团队成员也将转入。
新部门要解决的，是模型越来越能自主行动之后的安全问题。比如 Agent 调用工具时越过授权，模型被恶意提示诱导突破安全限制，或者出现未知风险时无法及时发现和阻断。为此，团队计划从预训练、SFT 到 RL 改进安全训练方法，通过自动化红队测试持续寻找漏洞，并研究模型行为的可解释性、异常追溯，以及 CBRN（化学、生物、放射性和核）等高风险能力。字节承诺长期投入，并提供与前沿模型研究相匹配的算力支持。
字节跳动Seed将安全与对齐单独设为部门。
该部门于10月14日启动全球招聘，计划招募10名研究员，地点包括北京、上海和美国圣何塞。
新部门由严林带队，直接向Seed负责人吴永辉汇报。
原Responsible AI团队及部分Chat团队成员将转入。
研究方向包括Agent越权、模型攻防、自动化红队测试、模型行为可解释性和异常追溯。
团队还计划研究CBRN相关高风险能力。
以下为辅助分析，与已报道事实分开展示；重要信息请进一步核实。
这意味着字节Seed正在组建专门团队，关注模型自主行动时可能出现的授权越界、恶意提示和未知风险等安全问题，并计划从训练、测试和追踪等方面开展研究。
Agent能够调用工具并自主行动时，授权管理和风险阻断会影响系统安全。专门团队和招聘计划显示这些问题已被纳入该部门的研究范围。
可以把Agent理解为能调用工具完成任务的模型。Agent越权是指它执行了超出原有授权范围的操作。
正在加载事件时间线…