Нецифровая экономика

МТС AI выпускает ИИ с открытым кодом Cotype Nano, нашу, так сказать, маленькую отечественную Llamu. Представлено три модели: 

— Cotype Nano работает локально на ПК, она основана на архитектуре трансформера Qwen 2.5 (другая открытая модель от китайской Alibaba), содержит 1,5 млрд параметров и совместима с фреймворками vLLM, OpenVINO и Hugging Face. Подходит для разработки чат-ботов и виртуальных помощников.

— Cotype Nano-4bit — квантизированная версия Cotype Nano, которая быстрее и в три раза меньше первой модели. 

— Cotype Nano CPU — оптимизированна для работы на центральном процессоре Intel.

Модели можно развернуть у себя на устройстве и дообучать на собственных корпоративных документах.

Мы надеемся, что такие шаги дадут импульс более активному развитию open-source сообщества в России, и другие компании тоже сделают представят открытые модели.

Вообще, open source модели типа Llama в мире очень востребованы в бизнесе, поскольку дают компании полный контроль над корпоративной информацией и позволяют гибко дообучать их до нужных результатов. Так что это вполне правильный шаг. Ну и заполнение вакуума отечественных ИИ в важной области.

Коммерсантъ

Нейросети открыты для предложений

Корпорации идут к обнародованию своих языковых моделей

www.group-telegram.com/ua/antidigital.com/8608

3.9K viewsOleg Salmanov, Nov 27, 2024 at 12:35

МТС AI выпускает ИИ с открытым кодом Cotype Nano, нашу, так сказать, маленькую отечественную Llamu. Представлено три модели: 

— Cotype Nano работает локально на ПК, она основана на архитектуре трансформера Qwen 2.5 (другая открытая модель от китайской Alibaba), содержит 1,5 млрд параметров и совместима с фреймворками vLLM, OpenVINO и Hugging Face. Подходит для разработки чат-ботов и виртуальных помощников.

— Cotype Nano-4bit — квантизированная версия Cotype Nano, которая быстрее и в три раза меньше первой модели. 

— Cotype Nano CPU — оптимизированна для работы на центральном процессоре Intel.

Модели можно развернуть у себя на устройстве и дообучать на собственных корпоративных документах.

Мы надеемся, что такие шаги дадут импульс более активному развитию open-source сообщества в России, и другие компании тоже сделают представят открытые модели.

Вообще, open source модели типа Llama в мире очень востребованы в бизнесе, поскольку дают компании полный контроль над корпоративной информацией и позволяют гибко дообучать их до нужных результатов. Так что это вполне правильный шаг. Ну и заполнение вакуума отечественных ИИ в важной области.

BY Нецифровая экономика