Дядюшка Мосблог

Нейронки как «второй пилот»: неприятные вопросы после прочтения заметки директора «Яндекса»

Технологии нейронных сетей больше не просто «помощники» — они меняют правила игры. Представьте: алгоритмы уже управляют финансами, логистикой и даже политикой. Но кто за всем этим стоит? Насколько безопасно будет жить в мире, в котором алгоритмы помощников, обученных в интересах и на деньги конкретных финансовых и геополитических структур, определяют, что и когда делать?

Ознакомился с текстом русофобского Forbes, в котором вышла статья директора по стратегическому маркетингу «Яндекса» Андрея Себранта о т.н. «вторых пилотах» (помощниках, встроенных в приложения и сервисы) и развитии нейронных сетей. По прочтении осталось неприятное послевкусие и несколько конкретных материальных вопросов о мире, в котором «агентам уже дали физические тела».

🔥 Что происходит о отрасли?

💻🛢 Алгоритмы вместо нефти
Экономика будущего зависит не от нефти или газа, а от того, у кого лучше алгоритмы. Компании, которые доверяют нейронным сетям принимать решения (а не просто советуются), начинают лидировать. По данным на ноябрь 2024 года, финансовый эффект от применения технологий нейронных сетей в Сбербанке составляет 450 млрд рублей, а за последние 5 лет экономический эффект от внедрения AI-решений в Сбере уже превысил 1 трлн рублей.

🚨 Кто в отстающих?
Те, кто использует нейронные сети как «умный калькулятор», проигрывают. Пример: Amazon и Alibaba автоматизируют 80% складов. Конкуренты без применения технологий нейронных сетей не успевают за лидерами, у которых есть возможность и ресурсы для внедрения подобных технологий.

В свое время Баффет охарактеризовал конкурентоспособность оцениваемых им компании понятием «ров», защищающий её «экономический замок». Чем шире и глубже «ров» (дороже вход на рынок), тем лучше. Перефразирую Баффета в разрезе текущей ситуации и темы. Компании, которые сегодня могут внедрить нейронные сети и получить от их внедрения выгоду, увеличивают «экономический ров», который отделяет их от со временем становящихся менее конкурентоспособными соперников.

🔥 Что с рисками?

🌐 Геополитические риски:
🤖 Доминирование крупных держав и корпораций, которые успели заскочить в сектор нейронок.
🤖 Манипуляции информацией и общественным мнением станет еще больше. Рядовой представитель широких народных масс не будет тратить время на изучение вопроса. Он задаст вопрос очередной нейронке и получит заранее понятный и выгодный владельцам нейронной сети ответ.
🤖 Угроза суверенитету через дезинформацию станет ещё острее. Стоимость контента и анализа этого контента, а также стоимость манипулирования мнением широких масс снижается.

💰 Экономические риски:
🤖 Конкурентное преимущество стран и корпораций с развитыми технологиями будет увеличиваться. Постепенно они, за счет экономии от внедрения нейронных сетей, или отожмут часть рынка у менее развитых в этом вопросе конкурентов, или скупят их на корню. Подобная потенциальная ситуация приведет к резкому укрупнению корпораций, созданию картелей и трастовых конгломератов вне управления государственными структурами.
🤖 Риск обрушения рынков и промышленности менее развитых стран как из-за скорости и качестве принятых решений, так и из-за некорректных решений в интересах создателей нейронных сетей. Доверяя чужим нейронным сетям, люди будут прислушиваться к советам в чужих интересах.
🤖 Предвзятость в обучении нейронных сетей на выгодных данных владельцев и создателей. Мы же все прекрасно помним: кто девушку ужинает, тот ее и танцует.

📌 Главные вопросы
❓ Готово ли наше общество, что чужие роботы (и здесь под «чужими» я понимаю как иностранные нейронные сети, так и нейронки нескольких крупных корпораций) определяют, что выгодно, а что — нет?
❓ Готовы ли мы доверить им принятие решений относительно распределения и использования стратегических ресурсов (в геополитическом определении слова «ресурс», включая ресурсы человеческие)?
❓ На каких данных (полезных или вредных для нашего общества, а, может, и вовсе некорректных) эти нейронные сети обучают?

@m0sblog

www.group-telegram.com/id/m0sblog.com/6242

5.5K viewsedited  Jan 30 at 10:29

Нейронки как «второй пилот»: неприятные вопросы после прочтения заметки директора «Яндекса»

Технологии нейронных сетей больше не просто «помощники» — они меняют правила игры. Представьте: алгоритмы уже управляют финансами, логистикой и даже политикой. Но кто за всем этим стоит? Насколько безопасно будет жить в мире, в котором алгоритмы помощников, обученных в интересах и на деньги конкретных финансовых и геополитических структур, определяют, что и когда делать?

Ознакомился с текстом русофобского Forbes, в котором вышла статья директора по стратегическому маркетингу «Яндекса» Андрея Себранта о т.н. «вторых пилотах» (помощниках, встроенных в приложения и сервисы) и развитии нейронных сетей. По прочтении осталось неприятное послевкусие и несколько конкретных материальных вопросов о мире, в котором «агентам уже дали физические тела».

🔥 Что происходит о отрасли?

💻🛢 Алгоритмы вместо нефти
Экономика будущего зависит не от нефти или газа, а от того, у кого лучше алгоритмы. Компании, которые доверяют нейронным сетям принимать решения (а не просто советуются), начинают лидировать. По данным на ноябрь 2024 года, финансовый эффект от применения технологий нейронных сетей в Сбербанке составляет 450 млрд рублей, а за последние 5 лет экономический эффект от внедрения AI-решений в Сбере уже превысил 1 трлн рублей.

🚨 Кто в отстающих?
Те, кто использует нейронные сети как «умный калькулятор», проигрывают. Пример: Amazon и Alibaba автоматизируют 80% складов. Конкуренты без применения технологий нейронных сетей не успевают за лидерами, у которых есть возможность и ресурсы для внедрения подобных технологий.

В свое время Баффет охарактеризовал конкурентоспособность оцениваемых им компании понятием «ров», защищающий её «экономический замок». Чем шире и глубже «ров» (дороже вход на рынок), тем лучше. Перефразирую Баффета в разрезе текущей ситуации и темы. Компании, которые сегодня могут внедрить нейронные сети и получить от их внедрения выгоду, увеличивают «экономический ров», который отделяет их от со временем становящихся менее конкурентоспособными соперников.

🔥 Что с рисками?

🌐 Геополитические риски:
🤖 Доминирование крупных держав и корпораций, которые успели заскочить в сектор нейронок.
🤖 Манипуляции информацией и общественным мнением станет еще больше. Рядовой представитель широких народных масс не будет тратить время на изучение вопроса. Он задаст вопрос очередной нейронке и получит заранее понятный и выгодный владельцам нейронной сети ответ.
🤖 Угроза суверенитету через дезинформацию станет ещё острее. Стоимость контента и анализа этого контента, а также стоимость манипулирования мнением широких масс снижается.

💰 Экономические риски:
🤖 Конкурентное преимущество стран и корпораций с развитыми технологиями будет увеличиваться. Постепенно они, за счет экономии от внедрения нейронных сетей, или отожмут часть рынка у менее развитых в этом вопросе конкурентов, или скупят их на корню. Подобная потенциальная ситуация приведет к резкому укрупнению корпораций, созданию картелей и трастовых конгломератов вне управления государственными структурами.
🤖 Риск обрушения рынков и промышленности менее развитых стран как из-за скорости и качестве принятых решений, так и из-за некорректных решений в интересах создателей нейронных сетей. Доверяя чужим нейронным сетям, люди будут прислушиваться к советам в чужих интересах.
🤖 Предвзятость в обучении нейронных сетей на выгодных данных владельцев и создателей. Мы же все прекрасно помним: кто девушку ужинает, тот ее и танцует.

📌 Главные вопросы
❓ Готово ли наше общество, что чужие роботы (и здесь под «чужими» я понимаю как иностранные нейронные сети, так и нейронки нескольких крупных корпораций) определяют, что выгодно, а что — нет?
❓ Готовы ли мы доверить им принятие решений относительно распределения и использования стратегических ресурсов (в геополитическом определении слова «ресурс», включая ресурсы человеческие)?
❓ На каких данных (полезных или вредных для нашего общества, а, может, и вовсе некорректных) эти нейронные сети обучают?

@m0sblog

BY Дядюшка Мосблог