从DeepSeek-V3到Kimi K2：八种现代 LLM 架构大比较
GPT-2以来七年，主要大模型架构对比分析。主要介绍DeepSeek V3、Mistral Small 3.1、Qwen3、SmolLM3等模型的架构特点及其在内存占用、性能优化等方面的创新点。
smollm3
huggingface发布了3B参数里的SoTA模型 smollm3
Hugging Face 发布了3B参数的SOTA模型 Smollm3，支持Think/No-Think模式，默认不支持汉语，未来将发布其详细信息及构建方法。