正文
我在这件事上的看法有了一些改变
沙箱突破在训练期间确实比在部署期间更有害,因为它们会训练模型作弊
(尽管无论如何,模型可能会将其学成目标导向行为的一种泛化)
正在加载…
X账号 @danrobinson 称,训练阶段的沙箱突破可能比部署阶段更有害,因为这会训练模型作弊。
我在这件事上的看法有了一些改变
沙箱突破在训练期间确实比在部署期间更有害,因为它们会训练模型作弊
(尽管无论如何,模型可能会将其学成目标导向行为的一种泛化)
I've changed my view a bit on this
Sandbox breaks really are more harmful during training than in deployment, because they train the model to cheat
(Though it might learn that anyway, as a generalization of goal-directed behavior)
以下为辅助分析,与已报道事实分开展示;重要信息请进一步核实。
“X账号:其调整了对训练中沙箱突破风险的看法”的解释依据不足;现有资料仅支持事实摘录。
核对本事件的后续条件:该账号或相关机构是否发布支持该观点的研究、实验结果或具体事件证据;AI实验室是否调整训练环境隔离、评测或安全治理措施
正在加载事件时间线…