group-telegram.com/antidigital/8699
Last Update:
Nvidia представила «карманную» версию ИИ-компьютера Jetson
Одноплатный ИИ-компьютер Orin Nano Super размером с ладонь предназначен для локального запуска искусственного интеллекта. Он обеспечивает производительность на 70% выше, чем предшественник Jetson Orin Nano, а стоит в два раза меньше — всего $249.
Компьютер ориентирован на любителей, которые хотят поиграться с обучением моделей искусственного интеллекта, а также на разработчиков роботов (скажем, в промышленности) или дронов, которым необходимо запускать сложные приложения без подключения к облаку.
На презентации Orin Nano Super гендиретор Nvidia Дженсен Хуан заявил, что компьютер может обрабатывать почти 70 трлн операций в секунду и потребляет всего 25 Вт энергии.
Изначально компьютеры Jetson создавались для робототехники, но сегодня они также могут потянуть работу с большими языковыми моделями, например, Llama от Meta (признана экстремистской в РФ). Да и различных «локальных» применений ИИ стало больше.
Например, стартап Сэма Альтмана World (ранее Worldcoin — токен в обмен на вашу биометрию) использовал в своих сканерах радужки глаза Orb модуль Nvidia Jetpack. В октябре стартап объявил, что в новейших устройствах Orb будет использован самый передовой модуль NVIDIA Jetson с производительностью почти в 5 раз большей, чем в прошлой версии.
Orin Nano — это такой «портативный мозг», который можно подключить к оборудованию для поддержки работы его ИИ-функционала. Облачные мощности, которые предоставляют Amazon и Google, имеют свои недостатки. Для работы ИИ-устройств критически важна высокая скорость и бесперебойная работа (например, для складской робототехники), и облачные мощности тут проигрывают локальным. Конечно, Orin Nano не заменяет высокопроизводительные графические процессоры Nvidia, но зато даёт возможность использовать вычислительные мощности без посредников.
Эта новость о карманном ИИ-компьютере, прежде всего, говорит о тренде на всё более лёгкий запуск ИИ: обеспечить работу искусственного интеллекта у себя «на дому» можно без серьезных вложений, а с развитием нейросетей и opensource-решений — и без специального навыка работы с ним.
BY Нецифровая экономика
❌Photos not found?❌Click here to update cache.
Share with your friend now:
group-telegram.com/antidigital/8699