Нецифровая экономика

Nvidia представила «карманную» версию ИИ-компьютера Jetson

Одноплатный ИИ-компьютер Orin Nano Super размером с ладонь предназначен для локального запуска искусственного интеллекта. Он обеспечивает производительность на 70% выше, чем предшественник Jetson Orin Nano, а стоит в два раза меньше — всего $249.

Компьютер ориентирован на любителей, которые хотят поиграться с обучением моделей искусственного интеллекта, а также на разработчиков роботов (скажем, в промышленности) или дронов, которым необходимо запускать сложные приложения без подключения к облаку.

На презентации Orin Nano Super гендиретор Nvidia Дженсен Хуан заявил, что компьютер может обрабатывать почти 70 трлн операций в секунду и потребляет всего 25 Вт энергии.

Изначально компьютеры Jetson создавались для робототехники, но сегодня они также могут потянуть работу с большими языковыми моделями, например, Llama от Meta (признана экстремистской в РФ). Да и различных «локальных» применений ИИ стало больше.

Например, стартап Сэма Альтмана World (ранее Worldcoin — токен в обмен на вашу биометрию) использовал в своих сканерах радужки глаза Orb модуль Nvidia Jetpack. В октябре стартап объявил, что в новейших устройствах Orb будет использован самый передовой модуль NVIDIA Jetson с производительностью почти в 5 раз большей, чем в прошлой версии.

Orin Nano — это такой «портативный мозг», который можно подключить к оборудованию для поддержки работы его ИИ-функционала. Облачные мощности, которые предоставляют Amazon и Google, имеют свои недостатки. Для работы ИИ-устройств критически важна высокая скорость и бесперебойная работа (например, для складской робототехники), и облачные мощности тут проигрывают локальным. Конечно, Orin Nano не заменяет высокопроизводительные графические процессоры Nvidia, но зато даёт возможность использовать вычислительные мощности без посредников.

Эта новость о карманном ИИ-компьютере, прежде всего, говорит о тренде на всё более лёгкий запуск ИИ: обеспечить работу искусственного интеллекта у себя «на дому» можно без серьезных вложений, а с развитием нейросетей и opensource-решений — и без специального навыка работы с ним.

Gizmodo

Nvidia’s New $250 'Jetson Computer' Lets Hobbyists Play Around With AI Locally

The palm-sized Orin Nano is ideal for hobbyists and small companies looking to run AI applications locally, such as for use in industrial robots.

www.group-telegram.com/ye/antidigital.com/8699

4.3K viewsDasha Sapozhkova, edited  Dec 18 at 18:06

Nvidia представила «карманную» версию ИИ-компьютера Jetson

Одноплатный ИИ-компьютер Orin Nano Super размером с ладонь предназначен для локального запуска искусственного интеллекта. Он обеспечивает производительность на 70% выше, чем предшественник Jetson Orin Nano, а стоит в два раза меньше — всего $249.

Компьютер ориентирован на любителей, которые хотят поиграться с обучением моделей искусственного интеллекта, а также на разработчиков роботов (скажем, в промышленности) или дронов, которым необходимо запускать сложные приложения без подключения к облаку.

На презентации Orin Nano Super гендиретор Nvidia Дженсен Хуан заявил, что компьютер может обрабатывать почти 70 трлн операций в секунду и потребляет всего 25 Вт энергии.

Изначально компьютеры Jetson создавались для робототехники, но сегодня они также могут потянуть работу с большими языковыми моделями, например, Llama от Meta (признана экстремистской в РФ). Да и различных «локальных» применений ИИ стало больше.

Например, стартап Сэма Альтмана World (ранее Worldcoin — токен в обмен на вашу биометрию) использовал в своих сканерах радужки глаза Orb модуль Nvidia Jetpack. В октябре стартап объявил, что в новейших устройствах Orb будет использован самый передовой модуль NVIDIA Jetson с производительностью почти в 5 раз большей, чем в прошлой версии.

Orin Nano — это такой «портативный мозг», который можно подключить к оборудованию для поддержки работы его ИИ-функционала. Облачные мощности, которые предоставляют Amazon и Google, имеют свои недостатки. Для работы ИИ-устройств критически важна высокая скорость и бесперебойная работа (например, для складской робототехники), и облачные мощности тут проигрывают локальным. Конечно, Orin Nano не заменяет высокопроизводительные графические процессоры Nvidia, но зато даёт возможность использовать вычислительные мощности без посредников.

Эта новость о карманном ИИ-компьютере, прежде всего, говорит о тренде на всё более лёгкий запуск ИИ: обеспечить работу искусственного интеллекта у себя «на дому» можно без серьезных вложений, а с развитием нейросетей и opensource-решений — и без специального навыка работы с ним.

BY Нецифровая экономика