量化优化

Doubao-1.5-pro 模型针对MoE模型的四个计算象限提出异构硬件结合低精度优化策略，提升吞吐量和降低总成本。通过定制化的RPC后端、灵活配比的Prefill和Decode集群以及GPU与CPU的异步化处理，实现高效稳定的推理系统。