Think思考用来增强RAG的Embedding?兼看推理模型使用实践建议等前沿进展

今日为2025年2月15日星期六。文章回顾了昨日的大模型进展,包括GraphRAG、开放AI推理模型使用建议、大模型训练注意力机制等,并介绍了深度思考与RAG结合的新进展,如生成嵌入和输出thought的方法。

微软LazyGraphRAG:新一代超低成本RAG

微软发布LazyGraphRAG简化成本结构,相比完整GraphRAG成本低0.1%。其利用NLP提取概念及其共现,并采用图形统计优化概念图和分层社区结构。评测显示,在成本和质量上超越其他方法,性能优于包括标准向量RAG、RAPTOR、GraphRAG本地/全局搜索和DRIFT在内的多个选项。