分层推理

分层推理技术让超大规模语言模型在有限内存设备上运行成为可能，AirLLM 提供了简便的框架实现这一目标。