RELAY · RLAB.WORKS

Relay

面向团队的 AI API 中转与计费平台。

Relay 是一套自营运的 B 端 AI API 中转站:统一接入 OpenAI / Anthropic / Gemini,公司注册后邀请同事共享预付额度,每人独立 Gateway Key,按 Token 用量实时扣费、对账单一目了然。

Relay dashboard
30B+
Token 业务量(首月)
400+
种子用户
9
上游接入点
CORE CAPABILITIES

给客户一个开箱即用的 AI 网关

从注册、邀请同事到拿 Key 调用,Relay 把 B 端 AI 接入的整条链路做成标准化产品,平台方只管配置模型和定价。

统一网关

一套 OpenAI / Anthropic / Gemini 兼容端点,客户不再自己维护一堆 Provider Key 和 SDK 适配层。

组织与团队

Owner / Admin / Member 三角色权限模型,组织内共享预付额度,每位同事持有独立 Gateway Key。

预付余额与计费

按 Token 用量实时扣费,透明对账单可追溯每一笔调用,平台管理员手动为客户加额度。

模型路由

精选自 SiftGate OSS 的成熟路由与 credential-pool 模块,支持多 Provider 负载均衡与故障切换。

平台运营后台

管理员配置可用模型、定价与客户额度,debug 数据加密保留,运营动作全程可审计。

生产级部署

Docker Compose 一键编排,Caddy 自动签发 TLS,一台 VPS 即可跑完整套服务。

INFRASTRUCTURE

为生产流量而设计的工程底座

从服务拆分、数据一致性到部署运维,每一层都为高并发 Token 计费与组织级协作而生。没有过度设计,也没有妥协。

服务架构

NestJS 11 双服务

admin-api 与 gateway 职责分离,独立扩缩、独立发布,任意一侧故障不扩散。

数据与计费

PostgreSQL 16 + Redis 7

PostgreSQL 承载组织、额度、对账的强一致写入,Redis 承担限流与毫秒级 Token 实时扣费。

控制台体验

React 19 + Vite 6 + Tailwind 4

客户 Console 与平台 Admin 共用一套现代化前端,秒级构建、响应即时,运营动作零等待。

基础设施

Docker Compose + Caddy

整套生产系统编排进单份 compose,Caddy 自动管理 TLS,基础设施复杂度被压到最低。