Провайдеры и маршрутизация
Управление маршрутизацией AI-провайдеров, цепочками резерва и региональной доступностью
Подключённые провайдеры
OpenAI
US East
120мс
Задержка
99.95%
Аптайм
18
Модели
Anthropic
US East
95мс
Задержка
99.98%
Аптайм
12
Модели
Google AI
US Central
110мс
Задержка
99.92%
Аптайм
15
Модели
Meta AI
US West
85мс
Задержка
99.9%
Аптайм
10
Модели
Mistral AI
EU West
75мс
Задержка
99.88%
Аптайм
8
Модели
Cohere
US East
130мс
Задержка
99.85%
Аптайм
6
Модели
DeepSeek
Asia
150мс
Задержка
99.8%
Аптайм
5
Модели
Perplexity
US West
200мс
Задержка
99.7%
Аптайм
4
Модели
Together AI
US West
90мс
Задержка
99.92%
Аптайм
20
Модели
Fireworks AI
US West
65мс
Задержка
99.94%
Аптайм
15
Модели
Groq
US Central
35мс
Задержка
99.96%
Аптайм
8
Модели
AWS Bedrock
Multi-region
140мс
Задержка
99.99%
Аптайм
12
Модели
Azure OpenAI
Multi-region
125мс
Задержка
99.97%
Аптайм
10
Модели
Replicate
US West
180мс
Задержка
99.75%
Аптайм
25
Модели
Lepton AI
US West
100мс
Задержка
99.82%
Аптайм
6
Модели
Правила по приоритету, определяющие выбор провайдера
Наименьшая задержка
АктивноНаправлять запросы провайдеру с наименьшей текущей задержкой
Приоритет US-регионов
АктивноПриоритизировать провайдеров в регионах US East и US West
Оптимизация стоимости
ОтключеноПредпочитать провайдеров с наименьшей стоимостью за токен при допустимой задержке
Высокая доступность
АктивноПропускать провайдеров с аптаймом ниже 99.9% за последние 30 дней
Автоматическое переключение при недоступности провайдера
Цепочка GPT-4
Цепочка Claude
Быстрый инференс
Распределение провайдеров по глобальным регионам
US East
3US West
6US Central
2EU West
1Asia
1Multi-region
2Среднее время ответа по всем провайдерам (мс)
Выберите провайдера по умолчанию для всех запросов
Anthropic
Задержка
95мс
Аптайм
99.98%
Регион
US East
Модели
12