Компания "Турбо Облако" от "Ростелекома" запустила сервис с доступом к современным ИИ-моделям и оплатой по факту потребления

"Ростелеком" усиливает ИИ-направление: входящая в коммерческий ИТ-кластер компания "Турбо Облако" запустила новый сервис Foundation Model Hub — облачный доступ к большим языковым моделям с оплатой за фактическое использование токенов. Благодаря существенному снижению стоимости применения ИИ-технологий сервис становится доступным не только крупным компаниям, но и среднему и малому бизнесу.

Сервис открывает доступ к каталогу актуальных языковых моделей для самых разных бизнес-задач. Специалисты "Турбо Облака" регулярно обновляют его, добавляя новые версии ИИ-моделей по мере выхода, так что пользователям не нужно самостоятельно следить за их жизненным циклом. В основе платформы лежит высокопроизводительная GPU^[1]-инфраструктура на базе ускорителей NVIDIA H200, объединенных скоростной сетью InfiniBand. Вычислительные ресурсы автоматически увеличиваются при росте запросов, поэтому сервис обеспечивает скорость и стабильность даже при пиковых нагрузках.

Главное преимущество Foundation Model Hub — экономия. Сегодня запуск собственных ИИ-моделей требует дорогой GPU-инфраструктуры и глубоких технических знаний. Пользователям Foundation Model Hub не нужно приобретать дорогостоящие вычислительные машины или нанимать профильных специалистов — все необходимые модели уже подготовлены и развернуты на ИТ-инфраструктуре "Ростелекома", которая охватывает всю страну. Геораспределенная сеть облачных мощностей дата-центров РТК-ЦОД уровня Tier III и оптическая инфраструктура "Ростелекома" обеспечивают равномерно низкую задержку сигнала во всех регионах.

Дмитрий Подшибякин, директор по продуктам компании "Турбо Облако":

"Сегодня большинство компаний хотят использовать современные языковые модели, но далеко не все готовы инвестировать в дорогостоящую GPU-инфраструктуру и ее сопровождение. Foundation Model Hub убирает этот барьер. Мы предоставляем готовый доступ к актуальным моделям искусственного интеллекта, берем на себя их развертывание, обновление и эксплуатацию, а наши клиенты оплачивают только фактическое потребление".

Для начала работы достаточно выбрать подходящую языковую модель из каталога, получить ключ доступа и интегрировать его в собственный сервис или внутреннюю информационную систему. Foundation Model Hub совместим со спецификацией OpenAI API, поэтому в большинстве случаев для подключения достаточно заменить базовый URL^[2] и API-ключ без доработки архитектуры и с минимальными усилиями.

С Foundation Model Hub клиент платит только за фактическое использование токенов, что позволяет избежать неожиданных расходов. Контролировать бюджет помогают разные ключи доступа (API), когда для отдельных команд и проектов можно установить собственный лимит потребления токенов — например, дневной, недельный или месячный.

***

"Турбо Облако" — публичная облачная платформа в составе коммерческого ИТ-кластера "Ростелекома", которая помогает бизнесу работать в режиме максимальной скорости. Компания предлагает свыше 50 сервисов: от виртуальной инфраструктуры и контейнерных платформ до готовых решений для хранения и обработки данных.

Облачная платформа "Турбо Облако" является дочерней компанией "РТК-ЦОД". Она развернута более чем на 20 площадках в пяти федеральных округах и обеспечивает клиентам надежность уровня Tier III. В облаке доступно более 500 000 виртуальных процессоров, включая GPU последнего поколения.