🤖Создание легковесного персонального ассистента на базе Qwen
Хочешь создать собственного ИИ-ассистента, работающего локально? В статье на Machine Learning Mastery показано, как это сделать с помощью модели Qwen1.5-7B-Chat от Alibaba.
🔧Что понадобится: - Python - Библиотеки: transformers, accelerate, bitsandbytes, einops, ipywidgets - Модель Qwen1.5-7B-Chat с поддержкой 4-битной квантизации для экономии памяти
🛠️Основные шаги: 1. Установка необходимых библиотек и проверка совместимости 2. Загрузка модели и токенизатора с использованием Hugging Face Transformers 3. Настройка квантизации (4-битной или 8-битной) для оптимизации использования памяти 4. Создание функции генерации ответов с учетом истории чата 5. Реализация пользовательского интерфейса с помощью ipywidgets или командной строки
📈Преимущества: - Работа на локальной машине без необходимости подключения к интернету - Быстрая генерация ответов благодаря квантизации и использованию GPU - Гибкость в настройке и расширении функциональности ассистента
🔗 Подробнее о процессе создания ассистента читайте в оригинальной статье
🤖Создание легковесного персонального ассистента на базе Qwen
Хочешь создать собственного ИИ-ассистента, работающего локально? В статье на Machine Learning Mastery показано, как это сделать с помощью модели Qwen1.5-7B-Chat от Alibaba.
🔧Что понадобится: - Python - Библиотеки: transformers, accelerate, bitsandbytes, einops, ipywidgets - Модель Qwen1.5-7B-Chat с поддержкой 4-битной квантизации для экономии памяти
🛠️Основные шаги: 1. Установка необходимых библиотек и проверка совместимости 2. Загрузка модели и токенизатора с использованием Hugging Face Transformers 3. Настройка квантизации (4-битной или 8-битной) для оптимизации использования памяти 4. Создание функции генерации ответов с учетом истории чата 5. Реализация пользовательского интерфейса с помощью ipywidgets или командной строки
📈Преимущества: - Работа на локальной машине без необходимости подключения к интернету - Быстрая генерация ответов благодаря квантизации и использованию GPU - Гибкость в настройке и расширении функциональности ассистента
🔗 Подробнее о процессе создания ассистента читайте в оригинальной статье
Russians and Ukrainians are both prolific users of Telegram. They rely on the app for channels that act as newsfeeds, group chats (both public and private), and one-to-one communication. Since the Russian invasion of Ukraine, Telegram has remained an important lifeline for both Russians and Ukrainians, as a way of staying aware of the latest news and keeping in touch with loved ones. Ukrainian forces have since put up a strong resistance to the Russian troops amid the war that has left hundreds of Ukrainian civilians, including children, dead, according to the United Nations. Ukrainian and international officials have accused Russia of targeting civilian populations with shelling and bombardments. Although some channels have been removed, the curation process is considered opaque and insufficient by analysts. Founder Pavel Durov says tech is meant to set you free At the start of 2018, the company attempted to launch an Initial Coin Offering (ICO) which would enable it to enable payments (and earn the cash that comes from doing so). The initial signals were promising, especially given Telegram’s user base is already fairly crypto-savvy. It raised an initial tranche of cash – worth more than a billion dollars – to help develop the coin before opening sales to the public. Unfortunately, third-party sales of coins bought in those initial fundraising rounds raised the ire of the SEC, which brought the hammer down on the whole operation. In 2020, officials ordered Telegram to pay a fine of $18.5 million and hand back much of the cash that it had raised.
from us
