DeepSeek开源放大招：FlashMLA让H800算力狂飙！曝光低成本秘笈
DeepSeek发布FlashMLA开源库，支持英伟达Hopper GPU。FlashMLA针对变长序列进行优化，显著提高推理速度和性能。
优化效果
大模型轻量化系列解读 (七)｜厦门大学纪荣嵘团队提出AffineQuant：LLM 的仿射变换量化
eQuant的后训练量化（PTQ）方法，通过引入等价的仿射变换扩展了优化范围，显著降低了量化误差，尤
影响RAG检索效果的原因有那些？
RAG系统中检索环节存在问题包括数据质量问题、向量化表示、检索方法与算法等多方面因素，文章提出优化建议以提升其性能，如使用高质量嵌入模型、定期更新数据库及调整相似度度量参数等。