分享一个使用 SGLang + SkyPilot 实现高吞吐量 DeepSeek-R1 服务的教程。这个教程来自 SkyPilot 官方。


参考文献:
[1] 地址:https://github.com/skypilot-org/skypilot/tree/master/llm/deepseek-r1
(文:NLP工程化)
分享一个使用 SGLang + SkyPilot 实现高吞吐量 DeepSeek-R1 服务的教程。这个教程来自 SkyPilot 官方。
参考文献:
[1] 地址:https://github.com/skypilot-org/skypilot/tree/master/llm/deepseek-r1
(文:NLP工程化)