Как возникла HCI? Man-Computer Symbiosis Ликлайдера

Фиговое дерево опыляется только насекомым Blastophaga grossorun, личинка которого живет в завязи дерева, где и получает пищу. Таким образом, дерево и насекомое находятся во взаимозависимом положении: дерево не может осуществлять процесс репродукции без насекомого; насекомое без дерева не сможет найти пропитание; вместе они организуют жизнеспособное, продуктивное и процветающее сотрудничество. Такое взаимодействие «живущих вместе в тесной связи двух организмов разных видов» называют симбиозом.

Симбиоз человека и компьютера — это подкласс человеко-машинных систем, коих существует много. Однако в настоящий момент никакой системы симбиоза между человеком и компьютером нет.

С этих слов начинается статья Джозефа Ликлайдера: «Симбиоз человека и компьютера», статья, которая не удостоилась большой популярности в РФ, тем не менее, ее перевод есть на Хабре. Эта по сути философская статья содержит умозрительные ответы на некоторые вопросы, поставленные в свое время на первых семинарах, организованных Норбертом Винером. Дадим слово самому автору.
https://groups.csail.mit.edu/medg/people/psz/Licklider.html

"Надежда состоит в том, что в не слишком краткие годы человеческий мозг и вычислительные машины будут очень тесно связаны друг с другом, и что полученное партнерство будет мыслить так, как никогда не мыслил ни один человеческий мозг, и обрабатывать данные способом, к которому не приближаются известные нам сегодня машины для обработки информации.
Цель заключется в том…, чтобы эффективно внедрить вычислительные машины в процесс мышления, который должен происходить в режиме «реального времени», т.е. времени, которое течет слишком быстро, чтобы иметь возможность использовать компьютеры обычным способом."

Здесь, Ликлайдер пытается дать определение того, что такое человек, и что такое компьютер, определение весьма достойное и сделающее честь Платону:

"Люди — это шумные, узкополосные устройства(narrow-band devices), но их нервная система имеет очень много параллельных и одновременно активных каналов. По сравнению с людьми вычислительные машины очень быстры и очень точны, но они ограничены выполнением только одной или нескольких элементарных операций за раз. Люди гибки, способны «программировать себя условно» на основе вновь полученной информации. Вычислительные машины целеустремленны, ограничены своим «предварительным программированием». Люди по природе говорят на избыточных языках, организованных вокруг единичных объектов и последовательных действий и использующих от 20 до 60 элементарных символов. Компьютеры «по природе» говорят на неизбыточных языках, обычно только с двумя элементарными символами и без врожденного понимания единичных объектов или последовательных действий.

Вычислительные машины могут легко, хорошо и быстро делать многие вещи, которые сложны или невозможны для человека, а люди могут легко и хорошо, хотя и не быстро, делать многие вещи, которые сложны или невозможны для компьютеров. Это говорит о том, что симбиотическое сотрудничество, если оно успешно интегрирует положительные характеристики людей и компьютеров, будет иметь большое значение.

Похоже, что вклады людей-операторов и оборудования будут настолько полностью смешиваться во многих операциях, что будет трудно четко разделить их при анализе. Так было бы в случае, если бы при сборе данных, на которых основывалось решение, например, и человек, и компьютер придумали соответствующие прецеденты из опыта, и если бы компьютер затем предложил курс действий, который согласуется с интуитивным суждением человека."

Люди, конечно, будут устанавливать цели и обеспечивать мотивацию, по крайней мере, в первые годы. Они будут формулировать гипотезы. Они будут задавать вопросы. Они будут думать о механизмах, процедурах и моделях. Они будут помнить, что такой-то человек сделал какую-то, возможно, важную работу по теме интереса еще в 1947 году или, по крайней мере, вскоре после Второй мировой войны, и у них будет представление о том, в каких журналах она могла быть опубликована. В общем, они будут делать приблизительные и ошибочные, но ведущие вклады, и они будут определять критерии и выступать в качестве оценщиков, оценивая вклад оборудования и направляя общее направление мысли.

Здесь идет интересная мысль, которая меня удивила, что он, возможно, предвидел риск деградации и склероза нейросетей.

"Второй момент заключается в том, что очень важный раздел памяти будет постоянным: частично неизгладимая память и частично опубликованная память. Компьютер сможет записывать один раз в неизгладимую память, а затем считывать обратно бесконечно, но компьютер не сможет стирать неизгладимую память. (Она также может перезаписывать, превращая все нули в единицы, как будто помечая то, что было написано ранее.) Опубликованная память будет памятью «только для чтения». Она будет введена в компьютер уже структурированной. Компьютер сможет ссылаться на нее неоднократно, но не изменять ее. Эти типы памяти будут становиться все более и более важными по мере того, как компьютеры будут становиться больше. Их можно будет сделать более компактными, чем сердечники, тонкие пленки или даже ленточная память, и они будут намного дешевле. Основные инженерные проблемы будут касаться схем выбора."

J. C. R. Licklider
IRE Transactions on Human Factors in Electronics,
volume HFE-1, pages 4-11, March 1960
https://www.computer-museum.ru/frgnhist/intern4.htm

Поминки по дизайн-мышлению

Последние 10 лет странные консалтеры и евангелисты предлагали клеить стикеры в залах, проводить брейнштормы и рисовать пути клиента. К счастью, все большее число людей начинает замечать, что это больше похоже на секту шестидесятников: вероятно, это часть старой культуры, которую будут списывать вместе с департаментами по разнообразию (аминь Трампу)
https://www.fastcompany.com/91262174/what-comes-after-design-thinking

Дизайн-мышление было создано для другой эпохи: времени, когда новые продукты или услуги, часто детища технологических визионеров, стремились наделить людей духом «думать по-другому». Но теперь надо не культивировать индивидуализм в эпоху кризисов, а наоборот, культивировать общность и учитывать общности людей.

We need to think in communities, пишут авторы статей, предлагая строить процессы принятия решений учитывая разные интересы, выделять сети стейкхолдеров, интересы разных сторон, идентичность и так далее.
В России, где топ-менеджмент, редко когда покидает кабинеты и не знает свою логистику, торговые залы, бэк-офис и людей, которые там работают (гастарбайтеров, в основном) это звучит актуально, но сомневаюсь, что консалтерам удастся продать такую идею.

Неравномерное распределении ИИ
https://stratechery.com/2025/ais-uneven-arrival/
AI’s Uneven Arrival

Stratechery — один из самых популярных технологических бюллетеней:рн понимает мета-тенденции и то, как думают руководители технологий, как мало кто другой. В «Неравномерном прибытии ИИ» он подчеркивает, что большинство организаций даже отдаленно не готовы передать задачи от людей ИИ, даже если ИИ мог бы их выполнять — слишком много неявных знаний. А затем следует неудачная аналогия из старого выступления Кейта Рабуа в Стэнфорде: «большинство людей — это боеприпасы, а не стволы» — то есть небольшое количество незаменимых людей задают направление (стволы), но люди, которых, скорее всего, заменит ИИ, просто выполняют работу (боеприпасы). В этом есть некоторый здравый смысл: нанимая больше людей, мы не ускоряем работу, а чаще, наоборот, уменьшаем скорость работы. Аналогия: "стволы и боеприпасы" — небольшое количество ключевых сотрудников ("стволы") задают направление, а большинство выполняет рутинную работу ("боеприпасы"). Давайте последим за его логикой.

Силиконовая долина - это конвейер SaaS-компаний, которые позиционировали себя как стартапы, меняющие мир, но которые на самом деле были пестрыми цифровыми сбоями в бизнес-моделях, реализованными благодаря облачным вычислениям и резко расширенной экосистеме венчурного капитала, которая все чаще принимала относительно низкую доходность в обмен на значительно сниженные профили риска.

Последние два десятилетия ознаменовались ростом цифровой рекламы, определяющей характеристикой которой является знание того, на кого она нацелена, и конвертируются ли они. Специфика того, как это работает, со временем изменилась, особенно с ужесточением правил использования файлов cookie которая сделала цифровую рекламу менее детерминированной и более вероятностной; однако вероятности в игре гораздо ближе к 100%, чем к подбрасыванию монетки. Интересно, что этот подход к рекламе не всегда работал для всего, особенно для некоторых из самых ориентированных на рекламу компаний в мире. Еще в 2016 году Procter & Gamble объявила о сокращении целевой рекламы в Facebook;

Слишком таргетированная аудитория для Procter & Gamble оказалась не так уж и нужна, большой охват оказался предпочтительнее.
Также была отдача от масштаба: производство — это большой вопрос; чем больше рекламы вы покупали, тем меньше платили за рекламу; что еще важнее, чем больше у вас было места на полке, тем больше у вас было возможностей для расширения линеек продуктов и вытеснения конкурентов.

Причем тут ИИ и LLM?

Было много разговоров о важности масштаба с точки зрения производительности LLM; для авторегрессионных LLM это означало масштаб обучения. Чем больше у вас параметров, тем больше вам нужна инфраструктура, но выигрыш — это большая точность, поскольку модель включает в себя гораздо больше информации.

o1 становится точнее, чем больше времени он тратит на вычисления во время вывода. То, на что указывают o3 и масштабирование времени вывода, — это нечто иное: ИИ, которым можно давать задания и доверять их выполнение. Это, в более широком смысле, больше похоже на независимого работника, чем на помощника — боеприпасы, а не винтовки

Когда вы нанимаете больше инженеров, вы не делаете намного больше. Иногда вы на самом деле делаете меньше. Вы нанимаете больше дизайнеров, вы определенно не делаете больше, вы делаете меньше за день. Причина в том, что большинство людей на самом деле являются боеприпасами. Но то, что вам нужно в вашей компании, — это стволы. И вы можете стрелять только через то количество уникальных стволов, которое у вас есть. Вот как скорость вашей компании улучшается — это добавление стволов. .

Я допускаю технический оптимизм; мое определение AGI заключается в том, что он может быть боеприпасом, т. е. ему можно дать задачу и доверить его выполнение с достаточно хорошей скоростью (мое определение искусственного суперинтеллекта (ИСИ) — это способность изначально придумывать задачи). Однако причина такого длительного отступления о рекламе заключается в том, чтобы объяснить, почему я скептически отношусь к ИИ, «существенно изменяющему результаты деятельности компаний», по крайней мере в 2025 году.

В этой аналогии компании CPG представляют корпоративный мир в целом. Когда боеприпасы ИИ станут доступны, станет ясно, насколько не подходят большинство компаний для высокоточных агентов, так же как P&G не подходила для высокотаргетированной рекламы. Независимо от того, насколько хорошо документированы процессы компании, станет ясно, что существуют огромные пробелы, которые были заполнены опытом и неявными знаниями человеческих боеприпасов. Положительная отдача от инвестиций достигается за счет сохранения и увеличения лицензий на рабочие места; однако эти рабочие места являются посредниками для фактического выполнения работы, так же как реклама была всего лишь посредником для фактической продажи чего-либо. С этой целью ИИ — особенно ИИ, такие как o3, которые масштабируются с помощью вычислений — будут оцениваться в соответствии со стоимостью выполняемой ими задачи; сумма, которую компании будут платить за вычисление времени вывода, будет зависеть от того, сколько стоит задача. Это аналогично цифровой рекламе, которая оценивается по конверсии, а не CPM.

Если что-то подобное произойдет с агентами ИИ, то наиболее важными клиентами ИИ в первую очередь будут новые компании. Традиционные компании, тем временем, будут бороться за внедрение ИИ (за исключением полномасштабной замены рабочих мест а-ля мэйнфрейм); настоящий захват ИИ предприятий, которые сохраняют дифференциацию в реальном мире, вероятно, займет годы.

Даосизм и роботы

Очень интересно, как автоматоны и техника является скорее способом доказательства даоской медицины и натурфилософии (натурмагии?)

Когда чжоуский царь Му совершал свой царский выезд в западные области, он миновал Куньлунь, но не достиг
горы Янь.

По дороге назад, не успев въехать в Срединное царство, он встретил некоего ремесленника по имени Яныпи.

— Что ты умеешь? — спросил его царь.
— Пусть ваше величество приказывает. Однако ж ваш
слуга уже сделал кое-что и надеется, что ваше величество
соблаговолит взглянуть.
— Принеси это завтра, мы поглядим вместе,— велел
царь.

На следующий день Яныпи попросил аудиенции у царя.
Тот велел впустить его и спросил:
— Кого это ты привел с собой?
— Ваш слуга сделал его сам, и он умеет делать разные
вещи.
Царь Му с удивлением посмотрел на этот манекен: тот ходил, глядя то вниз, то вверх — точь-в-точь как человек.Когда мастер коснулся рукой его щеки, он красиво запел; стоило мастеру хлопнуть в ладоши — и он пустился в пляс. Он показал множество разных номеров — какие только
желал царь. Царь же решил, что перед ним действительно человек, и смотрел на его представление вместе со своим ближайшим советником Шэнь Цзи и наложницами.

Под конец манекен подмигнул окружавшим царя женщинам и поманил их к себе. Царь очень рассердился и хотел казнить Яныпи на месте. А мастер, испугавшись, тут же разобрал манекен на части и показал их царю. Этот манекен был сделан из кожи и кусков дерева, скрепленных клеем, покрытых лаком и раскрашенных в белый, черный, красный и синий цвета. Царь внимательно все осмотрел: внутри были печень, селезенка, сердце, легкие, почки, кишки, желудок, снаружи — мускулы, кости, сочленения, кожа, зубы, волосы — все искусственное, но совсем как настоящее. Когда же все эти части мастер соединил вновь, искусственный человек стал таким, как прежде. Царь попробовал вынуть из него сердце — и человек не смог говорить. Из манекена вынули печень — и он не смог видеть; из него вынули почки — и он не смог ходить. Царь остался очень доволен и, вздохнув, сказал:

— Значит, человек своим искусством может сделать то же, что и сам Творец вещей!

Он велел погрузить искусственного человека на повозку и взял его с собой.
Осадная лестница Гуншу Баня, достигавшая облаков, и летающий змей Мо Ди казались им высшим достижением человеческого искусства. Но когда их ученики Дунмэнь Цзя и Цинь Гули прослышали о мастерстве Яныпи и рассказали о нем своим учителям, те до самой смерти больше не осмеливались хвастаться своими достижениями и всегда носили с собой отвес и циркуль.

из русского перевода ЛЕЦЗЫ

Торстейн Веблен и некоторые цитаты из его “Инженеры и ценовая система”

Традиционно я воспринимал Веблена как автора “товаров Веблена”, товары на которые по мере роста их цены растет и спрос. Также как и автора про “демонстративное” потребление, которое возникает при потреблении благ, недоступных для большинства обычных потребителей в связи с их высокой ценой. Это, конечно, любопытный феномен, который возник в конце XIX века. Сам Торстейн Веблен описывал такое положение вещей в книге «Теория праздного класса».

Некоторые красивые цветы согласно существующим условностям сходят за отвратительные сорняки; другие, которые можно выращивать без особого труда, находят признание и являются предметом восхищения у нижних слоев среднего класса, которые не могут позволить себе никакой более дорогой роскоши такого рода. Однако теми людьми, кто в состоянии платить за дорогие цветы и у кого привит вкус жить по более дорогой программе расходов на денежную красоту в продуктах цветоводства, эти сорта отвергаются как заурядные. Тем временем другие цветы, которым свойственна ничуть не большая красота, чем этим, выращиваются при больших затратах и вызывают большое восхищение у тех любителей цветов, вкусы которых полностью формировались под критическим руководством изысканного окружения.

Тем не менее, технократические работы Веблена, кажутся, не менее, а то и более интересными: в работе “Инженеры и ценовая система” он предполагает, что существует конфликт, который похож на марксистский, но сам по себе звучит иначе. В центре рассмотрения оказывается понятие “саботажа”, как одного из способов ограничить число товара на рынке, затаривание продукции монополистом или в результате сговора агентами рынка - владелец промышленного предприятия сам по себе ограничивает и “саботирует” выпуск продукции. Такого рода “саботаж” приводит к конфликту и недовольству сотрудников - многие из которых являются инженерами и технической интеллигенцией. Этот конфликт имеет природу в экономической истории последних веков и тесно связан с инновациями

Это было до того, как индустриальная система успела далеко зайти в специализации и усложнении, и до того, как предпринимательство достигло действительно крупных масштабов; поэтому даже бизнесмены того времени, не имея технического образования, все же могли обеспечить разумный контроль и разобраться в технической стороне дела, которое финансировали и благодаря которому полу-
чали прибыль. Нередко те же люди, которые разрабатывали технологии и оборудование, брали на себя финансовую сторону дела, одновременно управляя цехами. Но с самых ранних этапов начало происходить постепенное дифференцирование между теми, кто разрабатывал и организовывал технологические процессы, и теми, кто управлял финансовыми потоками и занимался коммерческими вопросами. Соответственно, происходило и разделение власти между менеджерами и техническими экспертами. Последние стали
определять, как сделать производство более продуктивным и искать для этого различные пути и средства; а менеджмент продолжал решать, руководствуясь коммерческими соображениями, сколько работы должно быть сделано и какой вид и объем товаров и
услуг должен быть произведен; и за менеджментом всегда оставалось окончательное решение, и именно так определялся лимит, который не могла превысить производительность.

С продолжающимся ростом специализации росла роль экспертов; но их выводы о том, что и как следует делать, всегда считались второстепенными по отношению к выводам менеджеров о том, что целесообразно с точки зрения коммерческой выгоды.

Тут интересно вот что - саботаж или, например, замедление релизов, искусственная заморозка выхода продуктов на рынок никуда не делась, так же как и противоречие между финансовыми интересами небольшого числа инвесторов и большого числа тех, кто использует и развивает технологию.

Пример с нейросетью deepseek вышедшей намного дешевле, чем OpenAi демонстрирует, что, конечно, задержка релизов с более дешевыми, более качественными решениями может быть вызван сговором на рынке, саботажем и т.д. Это перестает работать по мере развития технологических отраслей во всем мире, но, что если есть прорывные технологии, которые еще лежат законсервированными под сукном, и как мы можем потенциально оценить их объем?
Есть ли тайные сакральные нейросети, которые учат принятию решений в политике, цитируют проклятых поэтов и учат готовить ЛСД на кухне?