移动端大模型推理框架——cactus
这是一个支持C/C++、Dart/Flutter 和 Ts/React-Native 的API框架，使用GGML作为推理后端，并且兼容Llama.cpp模型。目前其在iPhone 16上运行的速度为49 token/s（Gemma3 1B）和16 token/s（Qwen3 4B）。
Gemma3
Gemma3+Mistral-OCR+RAG：实现多模态文档问答系统
文章介绍了使用Mistral OCR + Gemma 3 和RAG构建的多模态PDF文档问答系统，并详细描述了Mistral OCR和Gemma 3的独特之处及其在处理复杂文档中的应用。
R1-GRPO用于多模态、ChatBI、Gemma3等前沿进展：兼看KTransformers技术分享回顾
enManus-RL增强Agent规划能力训练框架》，https://mp.weixin.qq.co