统一网关
一套 OpenAI / Anthropic / Gemini 兼容端点,客户不再自己维护一堆 Provider Key 和 SDK 适配层。

面向团队的 AI API 中转与计费平台。
Relay 是一套自营运的 B 端 AI API 中转站:统一接入 OpenAI / Anthropic / Gemini,公司注册后邀请同事共享预付额度,每人独立 Gateway Key,按 Token 用量实时扣费、对账单一目了然。

从注册、邀请同事到拿 Key 调用,Relay 把 B 端 AI 接入的整条链路做成标准化产品,平台方只管配置模型和定价。
一套 OpenAI / Anthropic / Gemini 兼容端点,客户不再自己维护一堆 Provider Key 和 SDK 适配层。
Owner / Admin / Member 三角色权限模型,组织内共享预付额度,每位同事持有独立 Gateway Key。
按 Token 用量实时扣费,透明对账单可追溯每一笔调用,平台管理员手动为客户加额度。
精选自 SiftGate OSS 的成熟路由与 credential-pool 模块,支持多 Provider 负载均衡与故障切换。
管理员配置可用模型、定价与客户额度,debug 数据加密保留,运营动作全程可审计。
Docker Compose 一键编排,Caddy 自动签发 TLS,一台 VPS 即可跑完整套服务。
从服务拆分、数据一致性到部署运维,每一层都为高并发 Token 计费与组织级协作而生。没有过度设计,也没有妥协。
admin-api 与 gateway 职责分离,独立扩缩、独立发布,任意一侧故障不扩散。
PostgreSQL 承载组织、额度、对账的强一致写入,Redis 承担限流与毫秒级 Token 实时扣费。
客户 Console 与平台 Admin 共用一套现代化前端,秒级构建、响应即时,运营动作零等待。
整套生产系统编排进单份 compose,Caddy 自动管理 TLS,基础设施复杂度被压到最低。