跳至内容
每时AI

每时AI

  • 资讯
  • 国际
  • 分享
  • 大模型
  • 学术
  • 开源
  • 机器人
  • 关于我们

Ring AllReduce

CUDA-MODE课程笔记|GPU集合通信(NCCL)

2024年12月31日23时 作者 极市干货

↑ 点击
蓝字
关注极市平台
作者丨BBuf
来源丨GiantPandaCV
编辑丨极市平台
极市导

分类 学术 标签 Gather、 GPU集群、 NCCL、 PyTorch、 Ring AllReduce、 Scatter 发表评论

CUDA-MODE课程笔记 第17课 GPU集合通信(NCCL)

2024年12月31日14时 作者 GiantPandaCV

我的课程笔记,欢迎关注:https://github.com/BBuf/how-to-optim-a

分类 学术 标签 GPU集群、 NVIDIA NCCL、 PyTorch DDP、 Ring AllReduce、 分布式训练、 数据传输 发表评论

AGI AI AI技术 Anthropic ChatGPT Claude DeepSeek DeepSeek-R1 DeepSeek R1 GitHub GPT-4o LLM Meta OpenAI Python Sam Altman 人工智能 人形机器人 具身智能 大型语言模型 大模型 大语言模型 字节跳动 工业机器人 开源 强化学习 微软 扩散模型 技术创新 智能体 木易 机器学习 深度学习 清华大学 生成式AI 用户体验 百度 腾讯 自然语言处理 英伟达 谷歌 阿里云 阿里巴巴 马斯克 黄仁勋

分类

  • 分享
  • 国际
  • 大模型
  • 学术
  • 开源
  • 机器人
  • 资讯
  • Kiro:从原型到生产的智能开发助理
  • Agentic-R1 推理新范式,融合多策略蒸馏,实现高效工具链长链推理
  • Amazon Bedrock AgentCore:加速 AI 代理商用部署的企业级基础设施
  • 一款新出的多智能体构建系统:CommonGround
  • 刚刚,Sam Altman宣布:GPT-5即将发布

2025 年 7 月
一 二 三 四 五 六 日
 123456
78910111213
14151617181920
21222324252627
28293031  
« 6 月    

归档

  • 2025 年 7 月
  • 2025 年 6 月
  • 2025 年 5 月
  • 2025 年 4 月
  • 2025 年 3 月
  • 2025 年 2 月
  • 2025 年 1 月
  • 2024 年 12 月
  • 2024 年 11 月

AI新闻 | X平台 | APK反编译 | 京ICP备2024096144号 |
© 2025 每时AI • Built with GeneratePress
 下载我们的APP,AI秒送达!  立即下载
×