llamz

*在线运行 vLLM 入门教程：零基础分步指南

llmaz 是一个易于使用且先进的 Kubernetes 大语言模型推理平台，专为生产环境设计。它使用 vLLM 作为默认的模型服务后端。

更多详细信息，请参阅快速入门。