产品能力
从统一代理到组织治理、成本精细化与合规审计,覆盖企业落地大模型网关的核心需求。
统一代理与路由
- OpenAI 兼容:/v1/models、chat/completions(流式)、embeddings
- Anthropic 兼容:/v1/messages、count_tokens
- 模型目录 + 渠道 + 映射 + 备用路由;上游 Key 池粘滞与冷却
- 视觉透传 / 转文字与缓存;全链路 X-Request-Id
身份与 API Key 治理
- 本地账号与弱默认密码强制改密
- OIDC SSO(可关密码登录,支持真实 IdP 对接)
- 一人多 Key:备注、过期、吊销、一键吊销全部
- Key 可绑定项目与 IP 白名单
组织、部门与项目
- 用户配额与模型授权;部门归属与默认模型包(可选套用)
- 部门管理员:本部门成员与只读账单
- 项目 Workspace:成员、模型包交集 ACL、X-Project-Id / Key 绑定
计量、价目与预算
- 价目表估算;按用户 / 部门 / 项目筛选账单
- 热数据 / 账单 / 审计分拆保留;价目版本化与月报快照锁定
- 全站 / 部门 / 项目月预算;80% Webhook 告警与可选硬限
合规与安全
- Body 策略:off / summary / full,密钥片段脱敏
- 查看正文二次确认并写审计
- 上游渠道 Key at-rest 加密(enc:v1)
- 管理台 IP 白名单;登录成功 / 失败审计
可观测与运维
- 总览、趋势、请求明细、速度分析、图片识别统计
- Prometheus:GET /metrics
- 脚本化部署、健康检查与渠道探测