开源 LLM 私有化部署平台 LLMPod 招募 GPU 用户测试

LLMPod 是一个开源的私有化 LLM 推理服务平台，目前处于早期阶段，正招募有 GPU 服务器或多模型 API 管理需求的用户参与测试。平台提供 GPU 节点接入与管理、可视化模型部署、支持 vLLM / SGLang 推理引擎、发布 OpenAI 兼容 API，以及 API Key、配额、用量与调用日志管理、路由权重和 Failover。