开源的私有化大模型推理与服务管理平台，将自有 GPU 集群转化为可调用、可管理、可计量的模型 API。集成集群与算力管理、模型导入与分发、多副本部署、统一推理网关、多租户权限、API Key 与配额、Token 用量计费及监控审计；支持 vLLM、SGLang、llama.cpp，兼容 OpenAI / Anthropic API，提供对话、Embedding 和 Rerank 服务，统一接…

BillionMail gives you open-source MailServer, NewsLetter, Email Marketing — fully self-hosted, dev-friendly, and free from monthly fees. Join the discord: https://discord.gg/asfXzBUhZr