跳至内容
每时AI

每时AI

  • 资讯
  • 国际
  • 分享
  • 大模型
  • 学术
  • 开源
  • 机器人
  • 关于我们

Hugging Face Hub

如何估算大模型推理及微调的GPU显存需求?影响因素、计算规则及注意事项

2025年5月4日14时 作者 老刘说NLP

有介绍过,这次再温习一遍,讲的再细致些
计算LLM的显存需要考虑多个因素,
了解核心组件(参数、优化

分类 大模型 标签 DeepSpeed、 FSDP、 GPU并行化、 Hugging Face Hub、 Zero、 加速库 发表评论

xet-core:为Hugging Face Hub提供高效存储和数据管理的底层技术

2025年4月22日8时 作者 NLP工程化

Hugging Face Hub底层技术xet-core提供高效存储和数据管理功能,包括基于chunk的去重、Python绑定集成和本地磁盘缓存提升性能。

分类 开源 标签 Hugging Face Hub、 Python绑定、 xet-core团队、 去重功能、 数据管理技术、 本地磁盘缓存 发表评论

暴击GPT-4.5,DeepSeek-V3-0324官方报告出炉!系统提示、最佳温度全放出

2025年3月26日8时 作者 新智元

PT-4.5和Claude 3.7。DeepSeek-V3-0324新版本的发布让全球网友为之疯狂,

分类 资讯 标签 DeepSeek-V3-0324、 FIM技术、 Hugging Face Hub、 JSON输出、 函数调用、 微信公众号 发表评论

2025年 AGI AI AI技术 Anthropic ChatGPT Claude DeepSeek DeepSeek-R1 DeepSeek R1 GitHub GPT-4o LLM Meta OpenAI Python Sam Altman 人工智能 人形机器人 具身智能 大型语言模型 大模型 大语言模型 字节跳动 工业机器人 开源 强化学习 微软 扩散模型 技术创新 智能体 木易 机器学习 深度学习 清华大学 生成式AI 用户体验 百度 腾讯 自然语言处理 英伟达 谷歌 阿里云 阿里巴巴 马斯克

分类

  • 分享
  • 国际
  • 大模型
  • 学术
  • 开源
  • 机器人
  • 资讯
  • 写后端也能很 Vibe?一起从 0 到 1 打造你的 AI 应用!
  • 1080p飞升4k,浙大开源原生超高清视频生成方案,突破AI视频生成清晰度上限
  • 三大上市公司联投!切入上汽通用核心制造环节!这家具身智能企业宣布完成A轮融资!
  • 猫猫拯救科研!AI怕陷“道德危机”,网友用“猫猫人质”整治AI乱编文献
  • 上交所同日受理摩尔线程和沐曦IPO申请,均未盈利

2025 年 7 月
一 二 三 四 五 六 日
 123456
78910111213
14151617181920
21222324252627
28293031  
« 6 月    

归档

  • 2025 年 7 月
  • 2025 年 6 月
  • 2025 年 5 月
  • 2025 年 4 月
  • 2025 年 3 月
  • 2025 年 2 月
  • 2025 年 1 月
  • 2024 年 12 月
  • 2024 年 11 月

AI新闻 | X平台 | APK反编译 | 京ICP备2024096144号 |
© 2025 每时AI • Built with GeneratePress
 下载我们的APP,AI秒送达!  立即下载
×