清华

重磅！8B「扩散」大语言模型挑战Llama，一次看清全局完爆传统模型

作者

清华、中国人民大学与蚂蚁集团联合发布LLaDA模型，采用扩散方式打破自回归垄断，性能媲美Llama 3 8B。该模型颠覆大语言模型认知，采用掩码扩散模型训练范式，实现全局视角生成；在数学问题解答、多轮对话、代码生成等方面表现出色。相关资源包括论文和项目主页。

啊？7B的DeepSeek反超R1满血版，上海AI Lab周伯文团队新成果：计算最优的Test-Time Scaling

作者

上海AI Lab/清华哈工大/北邮团队的研究表明，通过改进Test-Time Scaling（TTS）方法，在数学推理任务上提升了小模型的性能。该研究发现最优的TTS方法高度依赖于具体的策略模型、过程奖励模型和问题难度。