大模型

知乎AI大会，火山引擎创业大赛…5月不可错过的AI活动都在这里了

作者

本月有多场开发者大会和活动即将举行。包括微软、谷歌及Anthropic的开发者大会，6月还有Apple WWDC活动。国内有知乎科技举办的AI变量研究所论坛、WaytoAGI主办的全球AI大会等。另有面向所有对AI编程感兴趣的朋友开放的技术小白也能做产品！AI编程创意挑战赛。更多详情请访问原文。

爆！三大热门大型模型服务方案实测：VLLM、LLaMA.cpp、SGLang 谁才是你的最强生产力引擎？

作者

文章介绍了三种当前流行的大型语言模型（LLM）和服务方案：VLLM、LLaMA.cpp HTTP Server 和 SGLang。VLLM 以其高性能和快速响应著称；LLaMA.cpp 是一个轻量级的本地部署选项，适合没有高端 GPU 的用户；SGLang 则是一个智能框架，支持多步骤推理和函数调用，适合需要自定义 DSL 的场景。文章详细比较了每种方案的特点、优点及适用场景，并提醒了各自可能遇到的问题。

大模型开发理论与技术——大模型应用体系梳理，对大模型应用整体认识

作者

通过梳理大模型技术与应用体系，文章指出了大模型的核心是数学，并强调了技术和应用相辅相成的关系。大模型技术涵盖大模型能力开发、生成、增强和扩展等多方面内容；而大模型应用技术则涉及特性应用、生成、增强以及扩展四大领域。