Sparse Transformers稀疏推理加速器
大模型推理加速器Sparse Transformers通过稀疏化技术提升1.6-1.8倍性能,支持LLaMA 3B模型,并实现内存占用减少和生成速度提升。
大模型推理加速器Sparse Transformers通过稀疏化技术提升1.6-1.8倍性能,支持LLaMA 3B模型,并实现内存占用减少和生成速度提升。
Mistral发布Magistral-Small-2506小模型,与Qwen3-4B类似大小且推理能力强,适合单卡32G运行,分数略高于Qwen3-4B。
Android MCP Server利用ADB实现设备控制,支持自动和手动选择,提供截图、UI分析等功能,适配多种场景,与MCP客户端无缝对接。
GitHub 上的 AI Screenshot Translator 是一款实用工具,用于翻译图像中的文本,支持 PDF 数学公式和多窗口管理,可通过自定义快捷键一键截图并翻译。
Awesome-Multimodal-LLM-for-Code:整合多种多模态代码生成资源的优秀库,涵盖Web前端、科学绘图等场景,提供高质量论文和数据集,并持续更新。
Kokoro TTS是一款强大的CLI工具,支持多种语言和声音格式,可将文本转换为语音,并提供EPUB、PDF和TXT等多种输入选项。