什么是Post-Training？
谷歌DeepMind研究员Shane Gu提出后训练才是人工智能进化的关键观点，颠覆了传统认知。他强调微调是给AI补习特定课程，而后训练则是教会AI如何更好地思考和学习。后者被指出是一种在线学习方式，有助于持续进化和提升广泛能力。
月度归档： 2024 年 12 月
OpenAI继续画饼，谷歌Gemini成功偷家！
木易作为互联网技术产品经理分享了OpenAI和谷歌Gemini的最新动态，并详细介绍了ChatGPT Pro的新套餐及强化学习微调技术，同时对比了两家公司的发布策略差异。
中科院院士：青年科学家 5 年内拿不出成果就面临淘汰，有的单位已现「马太」效应，重复给某一人奖励
MLNLP社区是国内外知名的机器学习与自然语言处理社区，旨在促进学术界、产业界和爱好者之间的交流与进步。院士卢耀如建议社会应多营造创新环境，鼓励青年科学家的成长。
OpenAI Sora v2即将发布：泄露视频显示强大创作能力，遵守物理定律，完美的一致性
Chad Nelson展示了即将推出的Sora v2，具备文本生成视频、图像生成视频等多种功能。东京艺术家Emi Kusano分享了使用Sora创作项目的过程及其带来的新体验和艺术表达方式。
大模型微调样本构造的trick
通过全参数微调实现ChatGLM2-6B模型的优化，重点在于多轮对话训练样本组织方式改进。采用session级别训练，避免了数据重复膨胀和低效问题，提高了训练效果，并实现了与原版相比有显著提升。
