高吞吐量

专注AIGC领域的专业社区分享了开源的DeepEP库，用于优化混合专家模型训练和推理。DeepEP支持高效的All-to-All通信机制、高吞吐量和低延迟内核，以及原生支持FP8格式。