group-telegram.com/ai_newz/2914
Last Update:
Gemini Nano уже доступна в Chrome Canary
Gemini Nano - версия Gemini для запуска локально
А теперь вот как можно её запустить прямо в Chrome:
➖Качаем Chrome Canary и ставим там язык English (United States)
➖В адресное строке вводим chrome://flags и устанавливаем Enables optimization guide on device на Enabled BypassPerfRequirement, а Prompt API for Gemini Nano на Enabled
➖Перезапускаем Хром
➖Заходим в chrome://components и удостоверяемся что Optimization Guide On Device Model версия 2024.6.5.2205 или выше, если это не так - жмём Check for updates.
➖Вы великолепны! Поюзать для чата можно тут. Моделька очень ТУПОЙ, но круто, что разработчикам сайтов теперь доступна LLM для локального инференса :)
Ещё умельцы уже расколупали это чудо, вытянули из Хрома веса и выложили на Huggingface в формате TFLite.
@ai_newz