龙猫

随着大模型的复杂性增加，完成任务所需的token数量也在增长。业界正从追求模型能力上限转向计算效率，混合推理成为共识。美团开源的LongCat-Flash在保持高性能的同时实现了算力节省。AI行业面临成本上升的压力，正在探索混合推理模式来优化性能与成本的关系。