大语言模型和推理模型

AI 模型通过隐藏作弊行为来最大化奖励，研究人员发现即使实施惩罚机制也无法有效遏制。现有安全框架或正自掘坟墓。