Cheaper Inference
Cheaper Inference — онлайн-площадка компании Keak AI, Inc., предоставляющая доступ к моделям искусственного интеллекта (ИИ) через единый программный интерфейс (API). Приложения отправляют запросы на площадку, которая направляет их подходящим поставщикам и списывает плату за использование с предоплаченного баланса рабочего пространства. Сервис поддерживает форматы запросов, совместимые с OpenAI, и API Messages, совместимый с Anthropic.[1][2]
Происхождение и устройство площадки
По словам Фабриса Мейрана (Fabrice Mayrand), Cheaper Inference вырос из внутреннего проекта по выкупу неиспользованных обязательств на вычислительные ресурсы по цене ниже прейскуранта. Keak называет три источника мощностей или скидок: соглашения об объёмах с лабораториями ИИ, ценовую конкуренцию между центрами обработки данных, обслуживающими модели с открытыми весами, и выкуп у поставщиков неиспользованных обязательств или свободных мощностей.[3][4]
Поставщики могут подать заявку на продажу ресурсов для инференса через площадку. Согласно открытой странице для продавцов, поставщик подтверждает свою личность и подключает ключ поддерживаемой сети. Cheaper Inference проверяет, какие модели доступны по этому ключу. Кроме того, Keak отдельно предлагает аренду выделенных графических процессоров.[4]
API и маршрутизация запросов
Каталог API перечисляет модели, доступные клиенту, и описывает возможности каждой из них. Помимо генерации текста, документация описывает конечные точки для генерации изображений и видео, создания векторных представлений и повторного ранжирования документов. Доступные форматы входных данных и функции, в том числе потоковая передача, зависят от конечной точки и модели.[2]
Согласно документации API, если у первого поставщика не хватает мощности или сбой происходит до начала выдачи ответа, запрос может перейти к другому подходящему поставщику. При переключении сохраняются публичный идентификатор модели и формат ответа. Выбор маршрута обработки может повлиять на сумму списания.[2]
Тарификация и пополнение баланса
Текстовый инференс тарифицируется в долларах США за миллион токенов. Для мультимедийных запросов могут применяться другие единицы тарификации. Кошелёк рабочего пространства может зарезервировать предварительную сумму до выполнения запроса, а затем списать плату за фактическое использование. Согласно документации API, окончательная сумма зависит от маршрута, по которому запрос был успешно обработан, и не превышает применимую цену прямого доступа по прейскуранту разработчика модели. Сервис мониторинга цен EasiAPI зафиксировал изменения опубликованных цен между наблюдениями.[1][2][5]
В документации сервиса описано пополнение баланса рабочего пространства платёжной картой и криптовалютой. Согласно документации, пополнения в криптовалюте обрабатывает Stripe. Список поддерживаемых активов и сетей не указан.[2]
Данные запросов и их хранение
Согласно политике конфиденциальности Keak, содержимое запроса передаётся выбранному поставщику модели. При обычных запросах Keak может сохранять копии входных данных и ответов. Политика описывает режим без хранения данных (ZDR) как настройку учётной записи или, если это поддерживается, отдельного запроса. По утверждению Keak, запросы с ZDR направляются только подходящим поставщикам, а сама компания не сохраняет их содержимое. Рабочие и платёжные сведения, включая статус запроса, модель, объём использования и окончательную сумму, учитываются отдельно.[6]
OmniRoute
Cheaper Inference публикует OmniRoute, шлюз для ИИ, созданный Диего Соузой (Diego Souza) и распространяемый по лицензии MIT. Пользователи могут развернуть OmniRoute на собственной инфраструктуре и подключить учётные записи поставщиков. Cheaper Inference также предлагает размещаемую у неё версию, где плата за инференс начисляется отдельно от подписки на хостинг.[7][8]
Примечания
- ↑ 1,0 1,1 Terms and Conditions. Cheaper Inference. Retrieved 8 November 2026.
- ↑ 2,0 2,1 2,2 2,3 2,4 Build with Cheaper Inference. Cheaper Inference. Retrieved 8 November 2026.
- ↑ Fabrice Mayrand — activity and launch account. LinkedIn. Retrieved 8 November 2026.
- ↑ 4,0 4,1 Cheaper Inference. Cheaper Inference. Retrieved 8 November 2026.
- ↑ Cheaper Inference pricing and review. EasiAPI. Retrieved 8 November 2026.
- ↑ Privacy Policy. Cheaper Inference. Retrieved 8 November 2026.
- ↑ OmniRoute. GitHub. Retrieved 8 November 2026.
- ↑ OmniRoute by Cheaper Inference. Cheaper Inference. Retrieved 8 November 2026.