Проблема
Доступ к большим языковым моделям из России фрагментирован. Часть провайдеров недоступна напрямую, часть
не принимает российские платежи, часть требует юрлица за рубежом. Команда, которой нужны три-четыре
модели, заводит три-четыре интеграции и столько же счетов — и всё это без закрывающих документов. Это не
задача про машинное обучение — это задача про доступ, платежи и документы, и она съедает недели там, где
интеграция занимает час.
Решение
TokenDock убирает этот слой целиком. Один OpenAI-совместимый endpoint отдаёт сотни моделей: меняются base
URL и ключ, остальной код остаётся прежним. Биллинг считает фактические токены в рублях, принимает карты,
СБП и счёт для юрлиц и выдаёт закрывающие документы. Ключи с бюджетами и лимитами RPM/TPM, учёт и история
расходов живут в консоли на нашей стороне — отдельный аккаунт у каждого провайдера клиенту не нужен.
Почему сейчас
LLM в российских компаниях перешли из экспериментов в продакшен, и вместе с этим появились требования,
которых не было на стадии прототипа: доступность под SLA, предсказуемый счёт и закрывающие документы.
Одновременно расслоился сам рынок инференса — моделей и поставщиков стало больше, а разница в цене между
ними заметнее. Слой, который сводит это к одному API и одному счёту, нужен именно на таком переходе: когда
вариантов стало много, а времени разбираться в каждом — нет.