openai-compatible-api

vLLM 是一个开源的大模型推理与服务引擎，核心用途是让开发者更高效地部署和服务 LLM / 多模态模型。