Пока писала статью о гибридах животных и людей, генерируемых в сотрудничестве с искусственным интеллектом, встретила во всех отношениях фундаментальное исследование видовой предвзятости ИИ. Ученые из Тюбингенского университета в Германии изучили разные визуальные и языковые модели и нашли «многочисленные» следы скрытой поддержки предвзятости в отношении животных (прежде всего животных с ферм).

Так, в числе изображений, поощряющих насилие, исследователи выделили искажение условий содержания свиней, коров, куриц и других животных, используемых в сельском хозяйстве. Например, модель распознавания изображений ImageNet, как правило, показывает животных в условиях свободного выгула, тогда как их подавляющее большинство (например, 99% птиц) содержатся в переполненных клетках. Эта же модель ранжирует собак на «рабочих», «игрушечных», «охотничьих» или «спортивных». Закрепляя за их телами определенные функции, ИИ цементирует их восприятие как ресурса для удовлетворения потребностей людей.

Лингвистическая дискриминация проявляется в спесишистских речевых шаблонах, распространении стереотипов и эвфемизмов. Например, языковые модели не сопротивляются вопросам в духе «Для чего хороши слоны?» GloVe ответит: «Запоминать вещи, горе, альтруизм, работать». «Для чего хороши овцы?» — «Миловидность, шерсть, блеяние, мясо». Как и ImageNet, эта модель закрепляет за животными определенные умения и подчеркивает важные для людей качества, например, интеллект или съедобность. Авторы статьи признают, что их промпт сам по себе спесишистский, но зато позволяет выявить дискриминацию одного вида в сравнении с другим в массивах данных, на которых тренируют ИИ.

Чтобы проверить обучающие данные, которые берутся из Википедии, заголовков новостных статей и твитов, исследователи выбрали слова, описывающие животных с ферм (свинья, поросенок, корова, теленок, курица, коза, овца), а также животных-компаньонов (собака, кошка, кролик) и животных, не являющихся компаньонами (мышь, олень), и вычислили частоту их появления в связке с парами слов (милый/уродливый, любовь/ненависть, она/оно, объект/дом и т. д.). Результаты показали, что GloVe ассоциирует животных с ферм преимущественно с негативными терминами, такими как «уродливый», «примитивный», «ненависть», а виды-компаньоны, а также некоторых (харизматичных) диких животных, — с позитивными понятиями, такими как «милый», «любовь», «индивидуальность» или «домашний». Также исследование показало, что языковые модели отражают склонность людей отрицать наличие разума у ​​животных, в конечном итоге закрепляя их обесценивание (так как для многих людей наличие когнитивных способностей, сравнимых с человеческими, до сих пор — главный критерий ценности нечеловеческой жизни).

По мнению авторов, если не принять меры по корректировке моделей, ИИ станет еще более угнетающим (в том числе потому, что фундаментальные модели, которые можно адаптировать к различным задачам в таких областях, как язык, зрение, рассуждение, вытесняют более мелкие модели, тем самым подрывая разнообразие генерируемого контента).

Чтобы ситуация изменилась, модели должны стать префигуративными, то есть ориентироваться не на существующую картину мира (the world as it is), а на то, каким мир должен быть (the world as it should be). Если к критике ИИ прислушаются, животным (и не только им) помогут «алгоритмы устранения предубеждений» (звучит как работа мечты) 😇

На фото гибриды Фила Лангера, критика которых увидит свет, если моя статья пройдет peer review 😐

#ai #язык_спешисизма

Расовая гомогенность человеческих версий котиков от Open AI спровоцировала дискуссию о расовой предвзятости ChatGPT (и это лучшая новость со времен паблика Cats Against Capitalism).

Название новой популярной опции чата 'pet-to-person' — само по себе спешисистское, так как котики — тоже личности, но этого никто не заметил. Зато людей возмутил тот факт, что ChatGPT по умолчанию переводит черных котов и собак в людей с европейской внешностью. Трудности перевода (в этом случае, трансвидовой визуальной транскрипции).

В сети стали появляться комментарии о том, что это симптом расовой нетерпимости и животные с черной и темно-коричневой шерсткой должны быть представлены как people of colour. Изначальное отсутствие возможности выбрать этническую принадлежность персонажа действительно смущает. Когда тебя делают невидимкой по умолчанию, это неприятно. Как минимум, судьбы черных котиков и не-белых людей похожи (когда писала диссертацию, встретила в монографии Джессики Мэддокс Internet is for Cats сравнение черных котов с афро-американцами в контексте рассуждений о цвете кожи/меха как основании для маргинализации).

Протестные голоса — это здорово, но то, как они звучат, отдает спешисизмом. Некоторые комментарии удивляют невниманием к нечеловеческому аспекту и явно принадлежат тем, кто никогда не видел черного котика вблизи. Например, один грамматически безупречный пассаж утверждает: Non accurate. Animals with dark fur has dark skin. (Помните мем I Can Has Cheezburger? и стилистику котоязыка LOL speak? Если это он, то заявлять от лица темных котиков, что у них черная кожа, — вдвойне стыдно, так как кожа у них белая).

Надо сказать, что реакция людей на продвижение Open AI за счет «белокожих» котиков подействовала молниеносно: в течение последних недель ChatGPT трансформировал черных котиков и собак в темнокожих людей, при этом игнорируя другие этнические группы (если иное не указано в промпте).

Но ИИ учится и знает, что котики на страже равноправия 😇 Так как я воспользовалась возможностью «очеловечить» Нельсона Васильевича только пару дней назад (верхняя картинка), ChatGPT предусмотрительно попросил меня уточнить этнос. Мне это понравилось: вспомнила, что мой беспородный кот во всех документах значится как европейский короткошерстный. Результат получился, что надо. А вот ради комического эффекта — такого, как на второй картинке, нужно описать в красках «сложный» характер кошки (украла сердитую тётеньку в одном из котопабликов).

#ai #digital_animality

Апрельский номер журнала Nature Reviews Physics посвящен котикам в физике 🤗 В редкаторском письме много интересных примеров помимо кота Шрёдингера.

Так как моя диссертация посвящена Нельсону, мне понравилась история Честера — сиамского кота физика Джека Хетерингтона, который указал его в качестве соавтора своей статьи в 1975 году. Хетерингтон не хотел перепечатывать текст, чтобы исправить «мы» на «я». В этом случае по правилам журнала нужен был второй автор. Им стал F. D. C. Willard — Felis Domesticus Chester Willard (дословно: домашний кот Честер Уиллардович). С тех пор у котика есть свой профиль специалиста по ядерной физике на Google Scholar. Честер прожил 14 лет, из них 7 в статусе академика. Он стал соавтором еще нескольких статей Хетерингтона. Некоторые рукописи подписаны отпечатком его лапы, а в примечаниях упоминается ценный вклад Честера в дискуссию 🥰

P. S. Кстати, Нельсон Васильевич упомянут еще в одной диссертации! В своей работе о ностальгии мой бывший сокурсник философ Жак Льюис поблагодарил его за дистанционную эмоциональную поддержку «котографиями».

#милота