Возможности
От единого прокси до управления организацией, затратами и комплаенсом.
Прокси и маршрутизация
- OpenAI: /v1/models, chat/completions (stream), embeddings
- Anthropic: /v1/messages, count_tokens
- Каталог + каналы + mapping + failover; sticky pool
- Vision / текст + кэш; X-Request-Id
Идентичность и API-ключи
- Локальные аккаунты и смена слабого пароля
- OIDC SSO (опциональный пароль; IdP)
- Несколько ключей: заметки, срок, отзыв
- Привязка к проекту и IP allowlist
Оргструктура, отделы и проекты
- Квоты и grants; пакеты моделей отделов
- Админы отделов: участники + read-only биллинг
- Workspace проектов: ACL пересечения, X-Project-Id
Учёт, прайс и бюджеты
- Оценка по прайсу; фильтр по user/dept/project
- Раздельное хранение; версии прайса и снимок месяца
- Месячные бюджеты; webhook 80% + hard limit
Комплаенс и безопасность
- Политика body: off / summary / full
- Просмотр тела с подтверждением и аудитом
- Шифрование upstream-ключей (enc:v1)
- IP allowlist админки; аудит входа
Наблюдаемость и ops
- Обзор, тренды, детали, скорость, vision
- Prometheus: GET /metrics
- Скриптовый деплой, health, пробы каналов