Компания MTS AI представила второе поколение своей большой языковой модели для бизнеса — Cotype Pro 2. Эта модель на 40% быстрее своей предшественницы и на 50% точнее в обработке длинных текстов до 128 тысяч токенов, что соответствует примерно 900 тысячам символов. Cotype Pro 2 адаптирована для выполнения более чем 100 корпоративных сценариев, и ее можно развернуть на внутренней инфраструктуре компаний, что обеспечивает повышенную безопасность данных.
Модель продолжает набирать популярность, войдя в пятерку лучших русскоязычных LLM в бенчмарке MERA от Альянса в сфере искусственного интеллекта. MTS AI планирует на основе Cotype Pro 2 в 2025–2026 годах выпустить линейку ИИ-решений для семи различных отраслей, включая госструктуры, банки, промышленность, ритейл, телеком, медицину и IT. Первые решения будут представлены в виде ИИ-помощников, а позже — ИИ-агентов с более высокой автономией.
В ходе улучшения модели команда разработчиков также обновила пайплайн обучения LLM с использованием новой методологии оценки. Исполнительный директор MTS AI Дмитрий Марков отметил, что ключевым направлением остается развитие способности к рассуждению. Это позволит моделям более эффективно анализировать данные, делать выводы и принимать обоснованные решения в условиях неопределенности. Это особенно важно в сферах, таких как финансовая аналитика и научные исследования.
Cotype Pro 2 демонстрирует рост эффективности по основным задачам: генерация идей увеличилась с 44% до 57%, а извлечение информации с 81% до 86%. Улучшены и другие функции, такие как суммаризация (до 85%) и креативное письмо (до 65%). Точность классификации осталась на высоком уровне — 87%, при этом модель значительно улучшилась в выполнении рассуждений, что полезно для аналитики и исследований.
Перед выпуском MTS AI провела трехмесячное тестирование модели в реальных условиях. В одном из банков Cotype Pro 2 автоматически отсортировала обращения в поддержку, а для МТС Live создавала описания мероприятий. Модель также продемонстрировала возможность интеграции с инструментами RAG (Retrieval-Augmented Generation), что позволяет извлекать информацию из баз знаний и генерировать текст на лету, что актуально, например, для чат-ботов.
Преимущества Cotype Pro 2 также включают поддержку ролевого отыгрыша, что делает модель полезной для поддержки клиентов и обучения сотрудников. Обновленный метод оценки работы с длинными текстами показал двукратный рост качества по сравнению с предыдущей версией. Это подчеркивает стремление MTS AI к разработке более совершенных и эффективных решений для бизнеса.