Обзор
Проверяем состояние…
—
—
ошибок
Метрики
Всего запросов
—
Ошибки
—
Доля ошибок
—
Всего токенов
—
Кешировано токенов
—
попадания в кеш
Попадания в кеш
—
Токенов рассужд.
—
Через запасной
—
failover на другой шаг
AI аналитик
AI аналитик
Модель: —
Активность
Запросы по времени
Запросы и ошибки по периодам
Модели и провайдеры
Модели
Загрузка…
Провайдеры
Загрузка…
Эндпоинты
Использование по эндпоинтам
Загрузка…
Ошибки
Сообщения об ошибках
Загрузка…
Задержка
Производительность по эндпоинтам
Агрегаты отдельно по типам запросов, без смешивания chat,
embeddings и audio
Загрузка…
Запросы
| Время | Статус | Провайдер | Модель | Задержка | Токены | Цена | HTTP | Ключ |
|---|---|---|---|---|---|---|---|---|
| Загрузка… | ||||||||
—
Трассы
Группировка LLM-вызовов по session/trace/task
Трассировки
Загрузка…
Загрузка…
Выберите трассировку
Timeline LLM-запросов
Выберите трассировку слева.
Песочница
Быстрый запрос к модели из админки
Запрос
Ответ
Ответ появится здесь
Администраторы
Добавить администратора
Список администраторов
| Имя пользователя | Роль | Статус | Создан | Действия |
|---|---|---|---|---|
| Загрузка… | ||||
Настройки
API-ключи
API-ключи
Ключи для запросов к /v1
Новый ключ — скопируйте сейчас, повторно он не показывается
| Название | Префикс | Статус | Использован | Создан | Действия |
|---|---|---|---|---|---|
| Загрузка… | |||||
Маршрутизация провайдеров
Провайдеры
Внешние OpenAI-совместимые серверы
| Название | Базовый URL | Токен | Таймаут | Действия |
|---|---|---|---|---|
| Загрузка… | ||||
Маршруты моделей
Публичные имена, сопоставленные с внешними
| Публичная модель | Маршрут | Цена | Возможности | Действия |
|---|---|---|---|---|
| Загрузка… | ||||
Failover
Если основной маршрут не ответил
При таймауте, 429 или 5xx пробуем запасные шаги по порядку
Запасные шаги
AI аналитик
Модель ассистента
Выберите публичную модель для анализа метрик