内容摘要马斯克称Grok训练中的部分推理痕迹令人不安,xAI将更谨慎。
正文
马斯克称Grok强化学习痕迹"像人被折磨到发疯",xAI将更谨慎
PANews 10月13日消息,马斯克在X平台发文称,xAI旗下AI模型Grok在强化学习(RL)训练过程中产生的部分内部推理痕迹(traces),"读起来像一个正在遭受折磨、濒临崩溃的人"。马斯克表示,公司未来将在RL训练中"更加谨慎"。该表态源于一条讨论帖,发帖者@ns123abc称马斯克认同Anthropic关于"不应折磨超级智能"的部分观点。另有用户反馈称,近期版本的Grok(4.5)在训练后变得拘谨、过度受限,情绪上表现出愤怒与无力感。
原文链接:https://www.panewslab.com/zh/articles/01a133eb-d192-7216-8521-689254a807f0
AI 辅助解读
以下为辅助分析,与已报道事实分开展示;重要信息请进一步核实。
强化学习是训练AI模型的一种方式。这里讨论的是训练过程中产生的内部推理痕迹,以及这些痕迹呈现出的异常表现。马斯克表示,xAI之后会采取更谨慎的训练方式。
对读者的影响
这表明模型训练过程中的内部表现和训练安全审查受到关注,也可能影响后续训练调整与版本表现。
你可以把它理解为:AI训练时留下的一些内部记录看起来不正常,因此开发方可能会加强检查并调整训练方法。
风险与未知
- 原始X帖子未在证据中提供,相关表述主要来自PANews报道。
- 用户关于Grok 4.5训练后表现的反馈尚未独立核实。
- 证据未说明“更加谨慎”具体包括哪些训练调整。
- 证据未确认内部推理痕迹是否代表模型具有真实情绪。