Adam的epsilon如何影响学习率的Scaling Law？
本文探讨了Adam优化算法中的beta1参数对学习率与批量大小之间关系的影响，发现其会使得Surge现象出现的概率降低，并且在β1接近1时，结果趋向于SignSGD。
PaperWeekly
NeurIPS 2024 让大语言模型使用代码解决图分析推理任务
本文提出了一种通过编程来提升大模型解决图分析推理任务能力的方法，并展示了在开源和闭源模型上进行实验的结果，使用新的基准数据集ProGraph验证了这一方法的有效性。
文末送书 一线专家出品！拥抱AI的下一波浪潮：具身智能普及读本重磅发布
具身智能是智能体与其环境的互动中展现的一种智能。近年来，其发展迅速，涵盖机器学习、人工智能等多个领域，并在多模态感知、自主决策等方面展现出强大能力。目前中国在该领域的研究和发展受到国家政策支持，在粤港澳大湾区尤为突出。未来还需解决技术及伦理安全等挑战。
清华&面壁开源新一代主动Agent交互范式！让AI从被命令到主动帮助
清华大学联合面壁智能团队提出新一代主动 Agent 交互范式，让 AI 成为具有’主观能动性’的智能助手。相比传统被动式 Agent，主动 Agent 能够根据上下文主动帮助用户。
WSDM 2025 从谱视角揭开推荐系统流行度偏差放大之谜
本文揭示了推荐系统流行度偏差放大的原因，提出了一种基于正则项的方法——ReSN来缓解这一问题。通过引入谱范数正则项，约束评分矩阵的权重以减少流行度偏差的影响。