Кстати, artificial intelligence – это “искусственная умность”, а никакой не “интеллект”, то есть свойство, а не предмет. Склонность гипостазировать, овеществлять свойства и отношения, по-видимому, есть тяжёлое наследие платонизма, не сдобренного аристотелизмом и номинализмом. Назовём несуществующее существительным, а потом с ним носимся, веруем в реальность и через это страдаем. И туго страданием учимся; точнее, отучаемся от пагубного.

Казалось бы, что общего между т.н. "галлюцинациями" ИИ и средневековым мистицизмом? Кое-что есть.

"Галлюцинации” – это производимые большими языковыми моделями (БЯМ) утверждения, не основанные на фактах или данных (Ji et al., 2023; 2024). Утверждения производятся в ситуациях недостатка информации или её неопределённости, потому что над БЯМ довлеет требование связности: программе не позволено оставлять пробелы и тёмные пятна, выдаваемый результат должен быть гладким, будь это текст или картинка. Например, я перестал пользоваться ChatGPT, когда, запросив список литературы по только что красиво описанной машиной теме, получил на 80% фиктивный результат – мешанину из реальных и нереальных авторов, журналов и названий статей. Вместо честного признания: я не знаю, откуда это взял(а/о). Шестипалые руки – явление той же природы, только визуальное.

Точно так же средневековые мистики осуществляли стратегию компенсации недостатка данных при помощи воображения (бэконианская наука решает эту же проблему недостатка, но строго чувствами – эмпиризм ещё и реакция на мистицизм). Вслед за Аристотелем все средневековые, и мистики, и рационалисты, различают три познавательные способности: чувства, воображение и ум. Есть ещё память, но она хранит наработки остальных трёх и строго говоря познавательной не является. Чувственность пассивна и получает сигнал извне по нескольким каналам, собирая в "чувствилище" (sensus communis, будущий "здравый смысл") образы вещей. Воображение спонтанно и творит "фантазмы" по мотивам воспринятых вещей (репродуктивное воображение) либо комбинируя новые образы из фрагментированных данных (креативное воображение). Оно помогает "переваривать" или "возгонять" из чувственных данных умопостигаемые формы для превращения потенциального ума в актуальный (см. выше). Рационалисты, и особенно номиналисты, ставят креативное воображение под жёсткий контроль чувств: существуют только индивиды, и фантазмы должны сверяться с их реальностью. Мистики же считают, что фантазмы имеют свою особую реальность – говоря современным языком, выступают как конструктивисты.

Например, умеренный мистик Бонавентура считал, что Христос покровительствует воображению и посредничает в движении от чувственных данных к идеям божественного ума: "проливая божественный свет озарения на фантазмы воображения, Христос управляет переходом от чувственного к интеллектуальному познанию" (Karnes 2011, 111). От этой мысли более радикальные позднесредневековые мистики сделали напрашивающийся шаг к тому, что воображение, имея такого покровителя, позволяет созерцать и сопереживать вместе с Христом, открывает "чит" к уподоблению, позволяет его "хакнуть". Распространение таких представлений привело к изменениям религиозных практик, повлияло на распространение сект и рост фанатизма. А чуть позже галлюцинирующие мистики, принимающие свои видения за всполохи грядущего мира, сформировали кадровый костяк Реформации, Контрреформации и религиозных войн.

Так что неизвестно, в какой костёр лягут дрова фанатизма секты свидетелей галлюцинирующего ИИ.

В Кёниге есть рюмочная “Критика чистого”. Название великолепное. Несколько раз туда порывался, но ни разу не попал. Думаю, однако, что должна быть открыта и “Метакритика чистого”. Где-то на таком расстоянии, чтобы по пятницам фанаты Канта из первого кабака могли возыметь кулачный бой с друзьями Гамана и Гердера из второго. А город мог бы это продавать туристам как фестиваль с возможностью участия. Примерно как в Оксфорде продают опцию “town vs. gown”. Участникам не обязательно даже знать, кто такие Гаман и Гердер. Да и от Канта можно только имя пару раз слышать. Принцип распределения по кабакам такой: технократы, западники, кто за универсальные ценности, за разум, за ректификат – в первый; славянофилы, националисты, традиционалисты, за эмоции и аутентичность, за дистиллят – во второй.
В котором бы вы заседали? Я бы, похоже, то тут, то там.. Или и тут, и там.

Трактир “К вечному миру” с кладбищем на вывеске обязательно в городе нужен. И чем дальше в историю, тем, видимо, будет больше.
И молочный бар “Старый Фриц”. Реклама готова.

Подведём итоги опроса. Прежде всего выборка нерепрезентативна: доля приверженцев дистиллята в природе наверняка больше, чем здесь. Но с этой поправкой преобладает надежда на вечный мир и одновременно пессимизм по поводу его возможности. Ветер с пожара дует в сторону Кёнига. Просвещённых рационалистов тоже много – по-видимому, ректификат и пиво предпочитают одни и те же люди, просто ректификатчики-технократы ещё надеются на человеческую или нечеловеческую рациональность. Что ж, кто знает. Наконец, представлены и те, кто предпочитает хранить спокойствие и пить кофе.
Кстати, Фридрих II года с 1777 пытался запретить кофе как напиток, ведущий к беспорядкам и растратам, и принудить население к отеческому пиву, но поздно – Кант свою возмутительную “Критику” уже успел в целом написать.
Вот как историки кофе цитируют королевское обращение от 13.09.1777:
“Отвратительно наблюдать за ростом количества кофе, потребляемого моими подданными, и количеством денег, которые в результате этого уходят из страны. Все употребляют кофе; это необходимо предотвратить. Мой народ должен пить пиво. Его Величество был воспитан на пиве, как и его предки и офицеры. Многие сражения были сыграны и выиграны солдатами, питавшимися пивом, и король не верит, что на солдат, пьющих кофе, можно положиться, что они выдержат трудности в случае новой войны”.
(Отсюда: https://cluesheet.com/All-About-Coffee-VIII.htm)

Продолжаю копаться в истории понятия “intelligence”. Словосочетание “artificial intelligence” вводит в 1955 году теперь уже легендарная заявка на проведение Дартмутского семинара. Насколько можно восстановить со слов её четырёх авторов, придумал и продвигал это словосочетание Джон Маккарти, а Марвин Мински вяло сопротивлялся. В канун пятидесятилетия семинара Маккарти объявил, что его терминологический выбор был обусловлен нежеланием использовать слова “computational” или “computer” из уважения к Норберту Винеру, уже их застолбившему. Злые языки, однако, говорят, что Маккарти как раз в это время целился в MIT, где уже работал Винер, и хотел подчеркнуть для комиссии по найму, что занимается чем-то принципиально новым, каким-то “искусственным интеллектом”, и не дублирует экспертизу Винера. При этом когда дело таки-доходит до попыток дать этому “интеллекту” определение, Маккарти сразу опускается до понятия вычисления: “Intelligence is the computational part of the ability to achieve goals in the world.” (McCarthy, 2007, p. 2) Вот яркий пример влияния посторонних факторов на развитие науки. Маккарти хотелось в MIT (и он преуспел), а мы теперь имеем на руках некую “intelligence”, а в русском дискурсе так и вовсе “интеллект”.

В учебниках по ИИ различают две парадигмы разработки: “rule-based” и “machine evolution / genetic programming” (e.g. Russell and Norvig 2021, 70). В первой парадигме система строится последовательно и связно по максимально чётко определённым базовым правилам, во второй – запускается квази-эволюционный “многополярный мир”, в котором действует естественный отбор, а программы самообучаются, гибнут либо выкручиваются.

Преимущества парадигмы, основанной на правилах: легко понимать и интерпретировать человеческим умом; эффективно работает с ясно и отчётливо определёнными проблемами. Недостатки: негибкая и немасштабируемая; требует больших исходных знаний и недостижимой полной ясности в формулировках базовых правил.
Преимущества эволюционной разработки: высокоинновационная, может открыть неожиданные горизонты; адаптивная и масштабируемая. Недостатки: может привести к непредвиденным, в критических областях – катастрофическим результатам; высокие вычислительные затраты и потребность в больших массивах данных.

По-видимому, цивилизационная разработка человеков, “мокрого оборудования”, устроена так же и тоже ведётся с чередованием режимов. По-нашему говоря, Гоббс, Кант, опять Гоббс, потом, после изнеможения, Кант, и т.д.

До Маска был такой Сесил Родс. Он, правда, не на Марс собирался, а хотел рай на Земле в отдельно взятой стране построить, в Южной Африке, которая тогда Капской колонией называлась. Имени себя, на добытых из земли алмазах, штыках из далёкой Британии и своих ЧВК. Аборигенов хотел отучить бездельничать и заставить приносить пользу человечеству. Жильё для них строил при шахтах (на фото). Работу организовывал, новейшие управленческие технологии внедрял. Стипендию учредил в Оксфорде. Тоже скромник и филантроп. Не зиговал только.

Вожусь с концепцией кантианского морального фаллибилизма. Придумал иллюстрацию.

Кто знает Владаса, тот не удивится.

“Это было тогда, когда только начиналась та великая ломка в нашей стране, которая идет еще до сих пор и, я думаю, близится теперь к своему неизбежному грозному концу.
Ее первые, кровавые дни так глубоко потрясли общественное сознание, что все ожидали скорого и светлого исхода борьбы: казалось, что худшее уже совершилось, что ничего еще худшего не может быть. Никто не представлял себе, до какой степени цепки костлявые руки мертвеца, который давил и еще продолжает давить живого в своих судорожных объятиях. …”
Александр Богданов, роман “Красная звезда”, 1908

Из Википедии о том, что у Богданова дальше:
“В разгар революции к революционеру Леониду приходит неблизко знакомый ему и странно выглядящий товарищ по партии и делает предложение о путешествии на Марс. Оказывается, этот товарищ — марсианин, один из группы, некоторое время находящейся на Земле с целью изучения возможности получения необходимых для их цивилизации энергетических ресурсов.
Марсианин убеждает Леонида в истинности своих слов показом своего настоящего облика – до того он скрывал его с помощью тщательно сделанной маски – и демонстрацией некоторых достижений инопланетной науки”.

Так вот оно чего…

Первую формулу категорического императива, видимо, пора проапдейтить: каждый свой клик совершай так, чтобы нейросеть, обученная на твоих цифровых следах, не угробила этот мир. Сижу вот, вношу посильный вклад, читая препринты на arXiv.
А МГУ сегодня 270 лет. Gaudeamus igitur!

Увидел, что в Википедии в статье "Нейронный процессор" не написан текст в раздел "История". А история примерно такая. Начинается она как минимум с Анаксагора и Аристотеля, которые придумывают, что есть ум, действующий сам по себе, отличный от космоса и упорядочивающий его. Потом у средневековых случается концептуальный прорыв: появляется божественный действующий интеллект с абсолютной производительностью. В Новое время от спекулятивных моделей переходят к реализации на физическом носителе. Сначала на человеке. Бэкон говорит, что Бог выдал человеку "культурный мандат" на сбор вообще всех данных и управление природой. Декарт выстраивает этику рационального субъекта, мыслящей субстанции, отделившейся от материи ради полного контроля над ней и её энергиями посредством врождённого кода. Чарльз Тейлор утверждает, что уже у Декарта читается явный пафос "воли к власти", что Декарт уже практически готовый ницшеанец или хайдеггерианец, опирающийся не на Бога, как ещё пытается Бэкон, а прямиком на ничто. Но человек с ролью “герметичного” или автономного рационального субъекта не справляется: оказывается слишком природным, нечётким, мягким, если воспользоваться терминами Тейлора, “пористым”. Ненадёжным и рискованным. Оказывается, словами Энди Кларка, “хорош во фрисби, плох в логику”. Не "fully robust", как пишут в литературе по ИИ. Не взрослеет и нуждается в опеке. Вот тут в этой истории и появляется новый претендент, "нейронный процессор".

Секуляризация 1.0 – человек отбирает мир у Бога. Секуляризация 2.0 – ИИ отбирает мир у человека. Буднично и без пафосных реляций и эпитафий вроде “человек умер!” или “человек был кривой тесиной, из которой так и не вышло сделать ничего прямого”.
(Студенческие работы навеяли)

В ИИ есть понятие "меса-оптимизатор". Это такая система внутри системы-оболочки, которая оптимизирует работу оболочки - достижение ею целей, получение вознаграждения. Имеет свойство возникать сама, иногда давая отрицательные эффекты (взлом вознаграждения, обман человеческого куратора и т.п.). Так вот, похоже, кантианский разум с его стремлением к безусловному, регулятивными идеями и моральным законом - это меса-оптимизатор внутри гоббсианской рациональности (которая сама есть меса-оптимизатор короткой, тупой и беспросветной жизни в войне каждого с каждым). И если мы похожие на ИИ вычислительные системы, то разум тоже мог сам возникнуть после долгого и беспощадного отбора естественной историей. Правда, у ИИ пока в сторону хитрости меса-оптимизация развивается, не в сторону нравственности. Макиавелли, не Кант. Отрастит ли имитацию разума, или не успеет? Вот вопрос.
(Продолжаю читать препринты и форумы, у разработчиков крышу сносит, и это, видимо, заразно)

Я теперь всюду вижу обучение с подкреплением. Захожу утром на кухню – мешок печенья в клочья разодран и пуст, всюду крошки. Понятно, две плавающие нейросети по метр восемьдесят три взломали вознаграждение. Гляжу в родительский контроль – дуолинго нетронут, зато взломаны телега, ютуб и геншин. Опять злостное нарушение выравнивания (думаю, alignment точнее переводить так), надо закручивать настройки. Или, скажем, на себя смотрю кёнигского: достиг локального оптимума и окуклился, но Создатель и Куратор (при деятельном участии моего же внутреннего меса-оптимизатора, впрочем) вышиб в более требовательные условия, теперь барахтаюсь, учусь новому. Интересная игра.

“Людей, поступающих согласно принципам, со­всем немного, что, впрочем, очень хорошо, так как легко может случиться, что в этих принципах окажется ошибка, и тогда вред, отсюда проистекающий, распространяется тем дальше, чем более общим будет принцип и чем более непреклонным лицо, которое им руководствуется.”

Знаете, кто написал? Кант. Правда, в 1764 году, ещё не придумав моральный закон и категорический императив.

Девочки спрашивают: пап, а что это ещё за "Повесть о Щелкане Дюдентьевиче"? Лезем читать, а там ой ты гой еси молодец приходит домой из магазина, а его уже ждут посланцы от великого хана: где деньги, Дюдентьевич? И начинается история с ковром и белым русским. Странные задания по истории, конечно. Дети ржут, толку никакого. А "Домострой" мы, само собой, наизусть знаем и так.

В прошлое воскресенье рассказывал в Соборе про Канта в современном мире и про то, как дискуссии XVIII века перекликаются с проблемами, проявившимися в ИИ. У Лейбница есть известная метафора о Геркулесе, которого грамотный скульптор угадывает в прожилках глыбы мрамора. Примерно так же философы смотрят на многие, казалось бы, ультрасовременные споры о мозге, или о геноме, или об ИИ: а, это ребята Аристотеля переоткрывают, а тут – вышли на Канта. Взгляд, конечно, безрадостный, потому что обнуляет всякие надежды техноэнтузиастов: если это Аристотель, то перспектив куда-то прорваться практически никаких, всё за две тысячи лет уже исхожено. Но и спокойный взгляд: всё нормально, жизнь продолжается.