⅁‌‌‌‌ garage.digital

Нейросети галлюцинируют — и мы вместе с ними, уверена художественный критик Кэролин Баста. Делимся с вами ее новым эссе в Document Journal — о вероятностной эстетике, бесконечной пользовательской ленте и полете ассоциаций.

Наша культура сформирована письмом: тексты отделяют то, что было, от того, чего не было, «можно» от «нельзя». А еще, как утверждал философ Вилем Флюссер, линейное письмо формирует само понятие исторического времени, устремленного бесконечно вперед. Но сейчас что-то изменилось, утверждает Баста, опираясь на интуиции того же Флюссера. Текстов стало так много, что мы их больше не читаем — скорее, скользим взглядом по поверхности текста, а потом сами достраиваем связи между фрагментами. И в этом мы похожи на современный ИИ.

Известно, что большие языковые модели не владеют фактами. Скорее, они генерируют наиболее правдоподобные высказывания, опираясь на статистику — то есть на то, какие слова наиболее часто встречаются вместе в обучающей выборке. Поэтому, например, ChatGPT нередко выдумывает несуществующие научные работы (и даже может пересказать их). Теоретики используют метафору галлюцинаций: для ИИ это — нормальное состояние.

Но что, если галлюцинации нейросетей — это просто отражение того, как мы сами теперь думаем и читаем? Как пишет Баста, денотативную коммуникацию постепенно вытесняет коннотативная, то есть основанная не на фактах, а на сходстве. Интернет — включая и коммуникацию между пользователями — структурирован машинными ассоциациями: контент нам подбирают алгоритмы рекомендации. И мы сами научились считывать вайб, не особенно вчитываясь.

Document Journal

Hallucinating sense in the era of infinity-content

This essay for Document’s Spring/Summer 2024 issue traverses arthouse cinema, Shein, and streaming to explore how the ‘technical image’ is changing the nature of meaning-making

www.group-telegram.com/br/againstthedigital.com/171

2.0K viewsedited  Nov 3 at 14:56

Нейросети галлюцинируют — и мы вместе с ними, уверена художественный критик Кэролин Баста. Делимся с вами ее новым эссе в Document Journal — о вероятностной эстетике, бесконечной пользовательской ленте и полете ассоциаций.

Наша культура сформирована письмом: тексты отделяют то, что было, от того, чего не было, «можно» от «нельзя». А еще, как утверждал философ Вилем Флюссер, линейное письмо формирует само понятие исторического времени, устремленного бесконечно вперед. Но сейчас что-то изменилось, утверждает Баста, опираясь на интуиции того же Флюссера. Текстов стало так много, что мы их больше не читаем — скорее, скользим взглядом по поверхности текста, а потом сами достраиваем связи между фрагментами. И в этом мы похожи на современный ИИ.

Известно, что большие языковые модели не владеют фактами. Скорее, они генерируют наиболее правдоподобные высказывания, опираясь на статистику — то есть на то, какие слова наиболее часто встречаются вместе в обучающей выборке. Поэтому, например, ChatGPT нередко выдумывает несуществующие научные работы (и даже может пересказать их). Теоретики используют метафору галлюцинаций: для ИИ это — нормальное состояние.

Но что, если галлюцинации нейросетей — это просто отражение того, как мы сами теперь думаем и читаем? Как пишет Баста, денотативную коммуникацию постепенно вытесняет коннотативная, то есть основанная не на фактах, а на сходстве. Интернет — включая и коммуникацию между пользователями — структурирован машинными ассоциациями: контент нам подбирают алгоритмы рекомендации. И мы сами научились считывать вайб, не особенно вчитываясь.

BY ⅁‌‌‌‌ garage.digital