语言模型

ScienceMeter：专注于语言模型中科学知识更新的评测工具

作者

ScienceMeter是专注于语言模型中科学知识更新的评测工具，涵盖10个领域，支持多款评测脚本及内置基线训练示例，数据集包含论文的支持与反驳合成科学论断，代码开源供科研人员使用、反馈和贡献。

更长的推理链反而导致更多幻觉，MLLMs 幻觉解法仅「抄作业」还不够？摘要

作者

本周会员通讯聚焦MLLMs幻觉问题、AI公司运营等议题。研究发现长推理链下MLLMs产生更多幻觉，不同来源的幻觉表现差异大。多模态模型在视觉编码器设计与训练机制存在失衡现象，导致语言主导现象频发。

周志华团队新作：LLM中存在奖励模型，首次理论证明RL对LLM有效性

作者

研究提出了一种新的方法——内源性奖励模型，它可以从大语言模型中挖掘出质量较高的奖励信号，而无需依赖人类标注数据。这项工作为机器学习领域提供了理论基础，并展示了其在常见任务中的有效性。

思维锚点：破解LLMReasoning黑箱的关键句

作者

MLNLP社区发布了关于大型语言模型思维链推理的研究论文《Thought Anchors: Which LLM Reasoning Steps Matter?》，提出思维锚点概念，系统分析了高级计划句和不确定性管理句在多步推理中的重要性，并开发了三种归因方法进行验证。