Meta探索大模型记忆层，扩展至1280亿个参数，优于MoE
MLNLP 社区致力于促进 NLP 学术界、产业界及爱好者间的交流合作，Meta 新研究展示了记忆层在预训练语言模型扩展中的实用性和性能提升。
月度归档： 2025 年 1 月
读完这这本大模型书籍，你就是LLM大师！
《动手学大语言模型》一书为读者提供了一本全面且实用的指南，涵盖LLMs在分类任务、文本生成等场景的实际应用。该书还讨论了训练和微调文本嵌入模型的方法，并介绍了大模型如何应用于医疗、教育等领域。
CodebaseToPrompt：将本地文件转换为大型语言模型（LLM）提示的工具
CodebaseToPrompt工具帮助用户将本地文件转换为LLM提示，用于代码审查、分析或文档生成。参考GitHub项目。
LLM Cursor Rules：在软件开发中用Cursor和LLM的最佳实践规则
LLM Cursor Rules：一套关于如何在软件开发中使用Cursor编辑器和大型语言模型的最佳实践规则，内容来自GitHub。
llmstxt-generator：网站内容整合工具，将网站内容爬取并整合成文本文件
网站内容整合工具，将网站内容爬取并整合成文本文件，方便用于AI训练和推理。参考文献：[1] https://github.com/mendableai/llmstxt-generator；[2] https://llmstxt-generator.vercel.app/
中科深谷新产品发布：开源乒乓球机器人
近日研发出的新乒乓球机器人能够与业余选手进行高水平对打。该系统基于深度强化学习技术，硬件平台包括机械臂、视觉相机和电源箱等，软件方面则提供丰富的开发接口和文档支持，适用于科研、教学及工业应用等领域。
Prodigy+ScheduleFree：一种新的优化器
Prodigy+ScheduleFree：一种结合了Prodigy和ScheduleFree优点的新优化器，旨在减少机器学习训练中的超参数设置，提高模型训练效率和稳定性。