一个使用 SGLang + SkyPilot 实现高吞吐量 DeepSeek-R1 服务的教程

分享一个使用 SGLang + SkyPilot 实现高吞吐量 DeepSeek-R1 服务的教程。这个教程来自 SkyPilot 官方。

参考文献:
[1] 地址:https://github.com/skypilot-org/skypilot/tree/master/llm/deepseek-r1


(文:NLP工程化)

发表评论

×

下载每时AI手机APP

 

和大家一起交流AI最新资讯!

立即前往