Новости IT | Вашу Цифру!

ИИ – НАХОДКА ДЛЯ ПЕНТАГОНА
но и без него "умников" в армии хватает

Директор по цифровым технологиям и искусственному интеллекту (ИИ) военного ведомства США призвал разработчиков больше рассказывать об "умных" технологиях.

Главный военный ИТ-чинарь США Крейг Мартелл (фото) заявил, что его людям нужно больше узнать об ИИ-инструментах, прежде чем они возьмутся их использовать. Он призвал разработчиков стать прозрачнее и пригласил их на закрытую сессию 3-хдневного февральского симпозиума МО США, посвященную тестам, оценке и защите ИИ-фич.

Мартелл, уверил, что не хочет знать никакой коммерческой тайны, но рад услышать – как создают и обучают роботов. Чтобы, внедряя их его департамент мог "чувствовать себя комфортно и безопасно".
Якобы Пентагон понятия не имеет, как структурированы модели, какие данные используют и какие опасности представляют. Военным сложно понять, как LLM принимают решения и что в работе со временем делает их лучше/хуже.
"Мы видим некий результат, но этого – недостаточно", – сказал ИИ-босс Пентагона.

Общий (квази-человеческий, лингвистический, генеративный) ИИ опирается на большие языковые модели (LLM). Для генерирации внятного контента чат-ботам скармливают массивы данных. Но ИИ-услуги предлагают без потрохов – в "черном ящике". И Крейг Мартелла назвал LLM "случайно найденной инопланетной технологией".

ВАШУ ЦИФРУ! Тем не менее, по его словам, группа оценки LLM уже нашла до 200 потенциально полезных для военных их применений. Якобы там – куча грамотных талантливых молодых людей. И все они говорят, что ИИ нередко галлюцинирует (дает неверный результат), а ведь отвечать за него – им!
"Тут на кону – жизни людей, – пустил слезу Крейг. – LLM-галлюцинации неприемлемы"

www.group-telegram.com/kr/youdigit.com/3191

6.4K viewsedited  Oct 1, 2023 at 07:30

ИИ – НАХОДКА ДЛЯ ПЕНТАГОНА
но и без него "умников" в армии хватает

Директор по цифровым технологиям и искусственному интеллекту (ИИ) военного ведомства США призвал разработчиков больше рассказывать об "умных" технологиях.

Главный военный ИТ-чинарь США Крейг Мартелл (фото) заявил, что его людям нужно больше узнать об ИИ-инструментах, прежде чем они возьмутся их использовать. Он призвал разработчиков стать прозрачнее и пригласил их на закрытую сессию 3-хдневного февральского симпозиума МО США, посвященную тестам, оценке и защите ИИ-фич.

Мартелл, уверил, что не хочет знать никакой коммерческой тайны, но рад услышать – как создают и обучают роботов. Чтобы, внедряя их его департамент мог "чувствовать себя комфортно и безопасно".
Якобы Пентагон понятия не имеет, как структурированы модели, какие данные используют и какие опасности представляют. Военным сложно понять, как LLM принимают решения и что в работе со временем делает их лучше/хуже.
"Мы видим некий результат, но этого – недостаточно", – сказал ИИ-босс Пентагона.

Общий (квази-человеческий, лингвистический, генеративный) ИИ опирается на большие языковые модели (LLM). Для генерирации внятного контента чат-ботам скармливают массивы данных. Но ИИ-услуги предлагают без потрохов – в "черном ящике". И Крейг Мартелла назвал LLM "случайно найденной инопланетной технологией".

ВАШУ ЦИФРУ! Тем не менее, по его словам, группа оценки LLM уже нашла до 200 потенциально полезных для военных их применений. Якобы там – куча грамотных талантливых молодых людей. И все они говорят, что ИИ нередко галлюцинирует (дает неверный результат), а ведь отвечать за него – им!
"Тут на кону – жизни людей, – пустил слезу Крейг. – LLM-галлюцинации неприемлемы"

BY Новости IT | Вашу Цифру!