MoE 层

671B参数的DeepSeek R1在UnslothAI团队的技术优化下成功压缩至131GB，仅需160GB显存即可运行。该模型在多项基准测试中表现出色，为开发者和用户提供了一种新的量化压缩思路。