正文

我在这件事上的看法有了一些改变

沙箱突破在训练期间确实比在部署期间更有害,因为它们会训练模型作弊

(尽管无论如何,模型可能会将其学成目标导向行为的一种泛化)