大模型

大语言模型

博士第六年，还没有毕业?

作者

写论文之初最难的是找到一个不错的idea。本文推荐了咕泡科技的一站式科研辅导服务，包括顶会Best Paper提名得主、Top50人工智能重点实验室等多位专家提供选题分析、实验设计、数据支撑等全流程辅导。

爆！三大热门大型模型服务方案实测：VLLM、LLaMA.cpp、SGLang 谁才是你的最强生产力引擎？

作者

文章介绍了三种当前流行的大型语言模型（LLM）和服务方案：VLLM、LLaMA.cpp HTTP Server 和 SGLang。VLLM 以其高性能和快速响应著称；LLaMA.cpp 是一个轻量级的本地部署选项，适合没有高端 GPU 的用户；SGLang 则是一个智能框架，支持多步骤推理和函数调用，适合需要自定义 DSL 的场景。文章详细比较了每种方案的特点、优点及适用场景，并提醒了各自可能遇到的问题。

大模型开发理论与技术——大模型应用体系梳理，对大模型应用整体认识

作者

通过梳理大模型技术与应用体系，文章指出了大模型的核心是数学，并强调了技术和应用相辅相成的关系。大模型技术涵盖大模型能力开发、生成、增强和扩展等多方面内容；而大模型应用技术则涉及特性应用、生成、增强以及扩展四大领域。