网关对外暴露的协议、支持的客户端与上游接入现状(历史调研细节见 CHANGELOG / git 历史)。
| 协议 | 端点 | 流式 |
|---|---|---|
| OpenAI Chat Completions | POST /v1/chat/completions |
✅ SSE |
| OpenAI Responses | POST /v1/responses |
✅ SSE |
| Anthropic Messages | POST /anthropic/v1/messages |
✅ SSE |
三协议双向转换(src/protocol.rs + src/sse.rs):客户端只需对接一个 OpenAI 兼容端点,网关按上游实际协议转发。流式场景同样跨协议转换(如 Anthropic → OpenAI SSE)。
| 客户端 | 首选协议 | 配置方式 |
|---|---|---|
| Claude Code | Anthropic | ANTHROPIC_BASE_URL + ANTHROPIC_AUTH_TOKEN |
| Cursor | OpenAI | Override OpenAI Base URL |
| Cline / Roo Code | OpenAI 兼容 | Provider 设为 OpenAI Compatible |
| Codex | OpenAI Responses | 用 Responses 端点 |
Base URL 统一由 AITokenPool 提供([server].public_url 配置),设置页展示;GET /v1/models 返回模型与可用 key 列表。
- 上游 key 在「共享管理」页上架(provider + plan + model + key + 额度 + 可用时段)
- 模型价格由
config/config.example.toml的[[models]]定义(唯一真源,启动 seed 入models表) - 各厂商价目已随
config/config.example.toml预置(含高峰时段价与分档价);新增厂商只需按同格式补[[models]],无需改代码 - 预置 provider:
deepseek、zhipu、aliyun-bailian、bytedance-ark、moonshot、minimax、openai、anthropic、google、xai(随[[models]]配置扩展,无需改代码)
内置 DeepSeek / GLM / GPT / Claude / Gemini / 豆包 / Kimi / MiniMax / 通义 / grok 等模型,含 context window、vision 支持、缓存价、高峰价与分档价字段。数量与明细以 config/config.example.toml 的 [[models]] 为唯一真源(由 src/catalog_gate.rs 的 MODEL_COUNT 守卫,此处不抄写数字以免随之陈旧)。模型列表可经管理端「模型管理」页 CRUD(需 admin 角色)。