МТС запускает агрегатор больших языковых моделей

MTC Web Services (MWS) представил на внешнем рынке агрегатор больших языковых моделей (LLM, Large Language Models) на базе собственных облачных сервисов. Об этом Forbes рассказали в компании.

Сервис MWS GPT предназначен как для крупного, так и для малого и среднего бизнеса. Кроме собственных LLM (в частности, таких, как Cotype и МТС Alpha), MWS GPT даст возможность работать с любыми opensource-моделями, дообучать их, а затем внедрять и использовать готовые решения на инфраструктуре МТС.

У платформы есть собственный чат-интерфейс, позволяющий сохранять промпты и обмениваться ими, а также No-Code конструктор для проектирования и создания приложений без привлечения разработчиков.

«По нашим оценкам, цена за токен будет одной из самых низких на рынке для моделей схожего класса. Планируется, что она составит 1,1 рубля за тысячу токенов для нашей модели (примерно 3000-4000 символов)», — прокомментировали в МТС.

«Работая с разными моделями, клиенты смогут подобрать наиболее подходящую, не оформляя многочисленные подписки и оптимизируя расходы на техподдержку. На мой взгляд, чтобы получить наилучший результат в решении задач с помощью LLM, не нужно зацикливаться на какой-то одной», — пояснил первый вице-президент по технологиям МТС Павел Воронин.

Как уточнили в компании, изначально сервис создавался для собственных нужд, чтобы разработчики могли тестировать разные модели: «Результатов могло быть заметно больше, если бы возможность „потрогать“ технологию появилась и у других сотрудников. Так начали создавать внутри МТС сервис, с помощью которого любой сотрудник смог бы проверить свою гипотезу и попробовать работу конкретных LLM».

Как отмечает издание, компания не прокомментировала сумму, в которую оценивается агрегатор, однако источник, знакомый с планами компании, полагает, что рынок решений для управления LLM до 2026 года может вырасти до 24 млрд рублей, и к этому времени МТС намерена получать из него выручку до 3 млрд рублей.

В компании добавили, что на первом этапе у людей будет возможность подключить облачную версию MWS GPT, в дальнейшем сервис будет развертываться на инфраструктуре заказчика. Впоследствии планируется увеличить число доступных моделей, в том числе с помощью популярных на рынке продуктов других компаний, рассчитывают в МТС.

«Мы можем запускать наши модели, opensource, любую внешнюю модель, доступную по API. Плюс добавим внешние модели от других компаний, которыми будут заинтересованы в ресейле», — уточнили в МТС.