量化归档 - 每时AI

Mistral 发了个小模型—— Magistral-Small-2506 这是他们的首个推理模型

2025年6月12日8时作者 NLP工程化

Mistral发布Magistral-Small-2506小模型，与Qwen3-4B类似大小且推理能力强，适合单卡32G运行，分数略高于Qwen3-4B。

2025年5月12日8时作者 NLP工程化

llama.cpp 推出视觉模型支持，多模态模型开发者可利用最新更新。

2025年4月9日23时作者极市干货

读
在InternVL-2.5上实现10倍吞吐量提升，模型性能几乎无损失。
>>
加入极市CV技术交

2025年4月4日14时作者小兵的AI视界

进行
SFT
（
Supervised Fine-Tuning
）的小模型也展现出了强大的效果
。前

2025年3月4日14时作者老刘说NLP

个模型在GPU上运行），GGUF（可能将层卸载到CPU上）又是啥？本质是啥？这些都是困扰已久的问题。

2025年3月3日14时作者老刘说NLP

，发现一些有趣的问题，比如模型参数融合的玩法，会有更多收获。
围绕模型参数融合，MOE可视化图解，d

2025年2月26日14时作者小兵的AI视界

将带你深入探索如何使用
vLLM
框架部署
DeepSeek-R1-Distill-Qwen
大语言

2025年2月13日12时作者硅星人Pro

服务器繁忙，请稍后再试”，正在让各地用户抓狂。
此前不太被大众所知的DeepSeek，因2024年1

2025年2月6日19时作者 GiantPandaCV

水塔花桥·琉森摄于2024.4.30
DeepSeek-V3 横空出世，训练和推理成本极低，一个重

2025年1月30日14时作者 AI技术研习社

上一篇文章我们探讨了如何使用自定义数据集进行模型训练，这次我将重点介绍如何使用
LoRA 微调
Qw