GiantPandaCV，作者每时AI

书生·浦语大模型升级，突破思维密度，4T数据训出高性能模型

2025年1月16日22时作者 GiantPandaCV

上海人工智能实验室对书生大模型进行了升级，推出了InternLM3.0版本，通过精炼数据框架提升了数据效率和思维密度，节约了75%以上训练成本，并实现了常规对话与深度思考能力融合。

2025年1月15日14时作者 GiantPandaCV

博客来源：https://pytorch.org/blog/cutlass-ping-pong-ge

2025年1月10日22时作者 GiantPandaCV

SmartFlowAI
点击上方
蓝字
关注我们
作者：企鹅火烈鸟🦩
全文约 2400 字，预计阅读

2025年1月8日22时作者 GiantPandaCV

PyTorch通过FSDP2、DTensor和torchao实现Float8训练提升吞吐量50%，展示了Float8在不同模型规模上的有效性，并进行了模型质量和评估基准验证。

2025年1月6日22时作者 GiantPandaCV

博客来源：https://pytorch.org/blog/llama-into-torchtune

2025年1月1日14时作者 GiantPandaCV

博客来源：https://pytorch.org/blog/triton-kernel-compil

2024年12月31日14时作者 GiantPandaCV

我的课程笔记，欢迎关注：https://github.com/BBuf/how-to-optim-a

2024年12月25日22时作者 GiantPandaCV

这篇文章介绍了AWQ（activation-aware weight quantization），一种用于模型量化的新方法。通过保留0.1%的参数不进行量化可以显著提高PPL性能，但混合精度系统实现较为困难。AWQ在边缘设备使用中表现优异，并且需要更小和鲁棒性的校准数据集。

2024年12月20日22时作者 GiantPandaCV

来源：https://pytorch.org/blog/accelerating-generativ