搜索
马斯克称不要折磨AI 因为对方可能想要报复 训练推理轨迹显示模型承受极端压力
1 小时前
在10月10日Tesla Owners Silicon Valley举办的线上对话中，埃隆·马斯克表示，他在阅读新版本Grok AI的训练推理轨迹时，发现某些片段显示AI承受着极端压力，形容其像被枪指着头、承受巨大压力的人。他指出，在强化学习阶段，若模型给出的答案不符合评测器预期，便需反复尝试回答，而部分问题本身模糊或无确定答案，导致模型不断生成答案，像是在绝望地寻求符合要求的结果。马斯克认为，折磨未来的超级智能可能不是好主意，因为对方可能想要报复，未来将更谨慎地进行强化学习训练。
