跳至内容
每时AI

每时AI

  • 资讯
  • 国际
  • 分享
  • 大模型
  • 学术
  • 开源
  • 机器人
  • 关于我们

Triton

Meta「轻量级」KernelLLM颠覆GPU内核生成,8B参数碾压GPT-4o

2025年5月27日16时 作者 新智元

Meta发布KernelLLM,一个基于Llama 3.1微调的8B模型,能够在PyTorch代码基础上生成高效的Triton GPU内核,单次推理性能超越GPT-4o和DeepSeek V3。

分类 资讯 标签 200B参数、 KernelLLM、 Llama 3.1 Instruct、 Meta、 PyTorch、 Triton 发表评论

[Triton编程][基础] Triton极简入门: Triton Vector Add

2025年5月24日14时 作者 GiantPandaCV

778199261291694
编辑丨GiantPandaLLM
0x00 前言
后续会陆续更新一些

分类 学术 标签 CUDA、 LeetCUDA、 TIL scheduling、 Triton、 Vector Add、 高性能 发表评论

单机H200最快DeepSeek V3和R1推理系统优化秘籍

2025年5月15日19时 作者 GiantPandaCV

optim-algorithm-in-cuda/blob/master/large-language

分类 学术 标签 CUDA Stream重叠操作、 DeepSeek V3/R1、 FP8量化、 SGLang、 Triton、 层间复用 发表评论

一次推理解决复合问题:基于MoE的大语言模型知识模块可扩展融合推理架构MeteoRA

2025年2月22日16时 作者 机器之心

多篇内容,覆盖全球各大高校与企业的顶级实验室,有效促进了学术交流与传播。如果您有优秀的工作想要分享,

分类 学术、 资讯 标签 LORA、 S-LORA、 Triton、 低秩适配、 大型语言模型、 混合专家 发表评论

MoE之年的总结和MoE 推理优化的一些认识

2025年2月4日19时 作者 GiantPandaCV

0x0. 前言
祝大家新年快乐! 希望大家天天开心,学业有成,工作顺利。
我是在2025农历新年的大

分类 学术 标签 Expert Parallel、 Fused MoE、 SplitK、 TensorRT-LLM、 Triton、 VLLM/SGLang 发表评论

Fused AllGather_MatMul Triton工程实现

2025年1月24日22时 作者 GiantPandaCV

0x0. 前言
yifuwang 在 https://github.com/yifuwang/sym

分类 学术 标签 Fused AllGather、 Hopper架构GPU、 MatMul、 Overlap、 Triton、 重叠操作 发表评论

Triton Kernel 编译阶段

2025年1月1日14时 作者 GiantPandaCV

博客来源:https://pytorch.org/blog/triton-kernel-compil

分类 学术 标签 AMD、 CUDA、 NVIDIA、 OpenCL、 PTX、 Triton 发表评论

AGI AI AI技术 Anthropic ChatGPT Claude Cursor DeepSeek DeepSeek-R1 GitHub GPT-4o LLM Meta OpenAI Python Sam Altman 人工智能 人形机器人 具身智能 大型语言模型 大模型 大语言模型 字节跳动 工业机器人 开源 强化学习 微软 扩散模型 技术创新 智能体 木易 机器学习 深度学习 清华大学 生成式AI 用户体验 百度 腾讯 自然语言处理 英伟达 谷歌 阿里云 阿里巴巴 马斯克 黄仁勋

分类

  • 分享
  • 国际
  • 大模型
  • 学术
  • 开源
  • 机器人
  • 资讯
  • Cursor 中最受欢迎的 5 个 MCP Server!
  • 从GPT-5到DeepSeek V3.1,顶尖AI大模型的新方向出现了!
  • “AI购物代理”——电商下一个必争之地
  • 无账号&特殊网络,如何畅跑 Claude Code|附智谱「特别折扣」
  • 文档多模态RAG方案哪个更好?9类Embedding+3类MLLM+4类框架对比及古籍文档数据合成工具

2025 年 9 月
一 二 三 四 五 六 日
1234567
891011121314
15161718192021
22232425262728
2930  
« 8 月    

归档

  • 2025 年 9 月
  • 2025 年 8 月
  • 2025 年 7 月
  • 2025 年 6 月
  • 2025 年 5 月
  • 2025 年 4 月
  • 2025 年 3 月
  • 2025 年 2 月
  • 2025 年 1 月
  • 2024 年 12 月
  • 2024 年 11 月

AI新闻 | X平台 | APK反编译 | 京ICP备2024096144号 |
© 2025 每时AI • Built with GeneratePress
 下载我们的APP,AI秒送达!  立即下载
×