group-telegram.com/theworldisnoteasy/1640
Last Update:
Создается технология суперобмана.
Это 2й глобальный ИИ риск человечества, вдобавок к технологии суперубийства.
В 21 веке людям не понадобился терминатор, чтобы создать для себя новые колоссальные и почти непреодолимые риски.
• Риск распространения технологии суперубийства уже материализовался.
Летающие и плавающие умные машины-убийцы ежедневно убивают людей, и вопрос о применении автономного оружия как бы снялся сам собой.
• Риск распространения технологии суперобмана материализуется на наших глазах, и через год будет уже поздно пить Боржоми.
В 2019 я еще задавался вопросом «станет ли ИИ Големом 21 века».
В 2022 это уже не вопрос. Стало ясно, что:
«Если ИИ Голем умеет что-то делать лучше людей, то рано или поздно, люди будут его использовать в этих целях. Не важно, о чем идет речь: играть в шахматы или стрелялки, водить авто или самолет, убеждать людей в фейковой информации или убивать одних людей по приказам других».
С автономными машинами-убийцами все уже определилось.
23го февраля с.г. (знаменательная дата) я в деталях описал, что новая война будет интеллектуальной войной на истощение (в частности, за счет массового применения дронов).
Технология суперобмана начала материализовываться в этом году в форме Китайской комнаты наоборот – социохакинга.
Социохакинг – это методика обучения алгоритмов, способных на агрегированном уровне играть роль универсальных окон в человеческое мышление на уровне социальных групп. Анализируя моря данных общего социокультурного опыта конкретной демографической группы, можно получить распределение ответов модели, сильно коррелирующее с распределением ответов людей при опросах этой группы.
Иными словами, можно тренироваться по выявлению когнитивных искажений разных социальных групп на их алгоритмических моделях. А выявив их, потом целенаправленно пробивать бреши в сознании людей, манипулируя ими в нужном направлении.
Т.о. 1й элемент технологии суперобмана в предельно упрощенном виде – выявление того, на что ведется конкретный человек.
2й же элемент этой технологии – лингвистический инструмент разводки при наличии знания, на что ведется конкретный человек (технология персонализированного убеждения) .
Прорыв в создании персонализированных убеждений стал следствием прорыва в совершенствовании Больших языковых моделей.
Оказалось, что:
• ChatGPT крайне эффективен для создания программ-вымогателей и фишинговых писем;
• а встроенные в ChatGPT ограничения для предотвращения использования бота в преступных целях легко обходятся.
Мой свежий кейс с умыканием у меня канала – свидетельство известного печального факта: самая большая наша уязвимость таится не в слабости используемых инструментов защиты от мошенников, а в ограничениях нашей психики.
Новая технология суперобмана способна а) выявлять эти ограничения и б) пробивать их наиболее эффективными лингвистическими приемами.
Резюме печальное.
Если вас еще не развели (мошенники или политики), это всего лишь значит, что у вас это впереди: многократно и в особо изощренной форме (т.к. технология суперобмана совершенствуется быстрее закона Мура).
#Социология #АлгокогнитивнаяКультура #Социохакинг
P.S. Ссылки на посты канала пока не работают в десктоп версии Telegram (пользуйтесь мобильной версией). Это результат недавнего хакинга. Пытаюсь сподвигнуть поддержку починить это.
BY Малоизвестное интересное
Share with your friend now:
group-telegram.com/theworldisnoteasy/1640