使用其他框架

*在线运行 vLLM 入门教程：零基础分步指南

• BentoML
• Cerebrium
• dstack
• Helm
• LWS
• Modal
• SkyPilot
• NVIDIA Triton