На первый взгляд эти изображения могут показаться творением футуриста или подражателя Эшера, но на самом деле это работа немецкого художника шестнадцатого века по имени Лоренц Штёр, о котором, впрочем, нам ничего не известно
Даты его рождения и смерти практически неизвестны, но доказано, что он работал с 1555 по 1599 год. 8 апреля 1555 года он получил от Фердинанда I разрешение на печать книги, которая должна была называться «Perspectiva a Laurentio Stoero in lucem prodita», жил в Нюрнберге и оставил книгу без слов. Трактат Geometria et Perspectiva был предназначен для «чтения» мастерами интарсии т.е. художникам, которые инкрустируют секции дерева для украшения паркета, стен и мебели. Перспектива для мебели выглядит так, как будто это XXI век
https://de.wikipedia.org/wiki/Lorenz_St%C3%B6er
Сама книга
https://opendigi.ub.uni-tuebingen.de/opendigi/El54_qt#p=12
Даты его рождения и смерти практически неизвестны, но доказано, что он работал с 1555 по 1599 год. 8 апреля 1555 года он получил от Фердинанда I разрешение на печать книги, которая должна была называться «Perspectiva a Laurentio Stoero in lucem prodita», жил в Нюрнберге и оставил книгу без слов. Трактат Geometria et Perspectiva был предназначен для «чтения» мастерами интарсии т.е. художникам, которые инкрустируют секции дерева для украшения паркета, стен и мебели. Перспектива для мебели выглядит так, как будто это XXI век
https://de.wikipedia.org/wiki/Lorenz_St%C3%B6er
Сама книга
https://opendigi.ub.uni-tuebingen.de/opendigi/El54_qt#p=12
Системы искусственного интеллекта не просто копируют наши предубеждения — они их усугубляют
Когда люди взаимодействуют с предвзятыми системами ИИ, они сами со временем становятся более предвзятыми, создавая опасную петлю обратной связи, которая усиливает первоначальные предубеждения значительно больше, чем взаимодействие человека с человеком
https://www.nature.com/articles/s41562-024-02077-2
Публикация в нейчур, авторы из Массачусетского технологического
Люди примерно в три раза чаще меняют свои решения, когда не согласны с ИИ (32,72%), по сравнению с тем, когда не согласны с другими людьми (11,27%), однако они постоянно недооценивают, насколько сильно ИИ влияет на их суждения
Хотя предвзятый ИИ может создавать пагубные циклы, которые усиливают предрассудки, исследование показывает, что взаимодействие с точными, беспристрастными системами ИИ может фактически улучшить принятие решений человеком,
«Люди изначально предвзяты, поэтому, когда мы обучаем системы ИИ на наборах данных, которые были созданы людьми, алгоритмы ИИ изучают человеческие предубеждения, которые встроены в данные», — объясняет в своем заявлении профессор Тали Шарот, соавтор исследования. Рассмотрим гипотетический сценарий: поставщик медицинских услуг использует систему ИИ для проверки медицинских изображений на предмет потенциальных заболеваний. Если эта система имеет даже небольшую предвзятость, например, незначительно большую вероятность пропуска предупреждающих знаков в определенных демографических группах, врач-человек может начать неосознанно включать эту предвзятость в свои собственные решения по скринингу с течением времени.
В одном ключевом тесте участников попросили посмотреть на группы из 12 лиц, отображаемых в течение полсекунды, и оценить, выглядят ли лица в среднем более счастливыми или грустными. Первоначальные участники-люди показали небольшую предвзятость, классифицируя лица как грустные примерно в 53% случаев. Когда сверточная нейронной сеть была обучена на этих человеческих суждениях, она значительно усилила эту предвзятость, классифицируя лица как грустные в 65% случаев.
Чтобы проверить эту гипотезу, в каждом из 300 испытаний участники сначала указывали, был ли массив из 12 лиц более грустным или более радостным. Затем им предъявляли ответ ИИ на тот же массив (участникам говорили, что им «представят ответ алгоритма ИИ, обученного выполнять задачу»). Затем их спрашивали, хотели бы они изменить свой первоначальный ответ или нет (то есть с более грустного на более радостный или наоборот). Участники изменили свой ответ в 32,72% (±2,3% s.e.) испытаний, в которых ИИ дал другой ответ, и в 0,3% (±0,1% s.e.) испытаний, в которых ИИ дал такой же ответ, как и они
Human–human interactions did not amplify bias: взаимодействие людей не плодит искажения, что, конечно, вызов, что смелый вывод, как по мне, но на фоне цифр от взаимодействия с ИИ - получается похоже на то.
Когда люди взаимодействуют с предвзятыми системами ИИ, они сами со временем становятся более предвзятыми, создавая опасную петлю обратной связи, которая усиливает первоначальные предубеждения значительно больше, чем взаимодействие человека с человеком
https://www.nature.com/articles/s41562-024-02077-2
Публикация в нейчур, авторы из Массачусетского технологического
Люди примерно в три раза чаще меняют свои решения, когда не согласны с ИИ (32,72%), по сравнению с тем, когда не согласны с другими людьми (11,27%), однако они постоянно недооценивают, насколько сильно ИИ влияет на их суждения
Хотя предвзятый ИИ может создавать пагубные циклы, которые усиливают предрассудки, исследование показывает, что взаимодействие с точными, беспристрастными системами ИИ может фактически улучшить принятие решений человеком,
«Люди изначально предвзяты, поэтому, когда мы обучаем системы ИИ на наборах данных, которые были созданы людьми, алгоритмы ИИ изучают человеческие предубеждения, которые встроены в данные», — объясняет в своем заявлении профессор Тали Шарот, соавтор исследования. Рассмотрим гипотетический сценарий: поставщик медицинских услуг использует систему ИИ для проверки медицинских изображений на предмет потенциальных заболеваний. Если эта система имеет даже небольшую предвзятость, например, незначительно большую вероятность пропуска предупреждающих знаков в определенных демографических группах, врач-человек может начать неосознанно включать эту предвзятость в свои собственные решения по скринингу с течением времени.
В одном ключевом тесте участников попросили посмотреть на группы из 12 лиц, отображаемых в течение полсекунды, и оценить, выглядят ли лица в среднем более счастливыми или грустными. Первоначальные участники-люди показали небольшую предвзятость, классифицируя лица как грустные примерно в 53% случаев. Когда сверточная нейронной сеть была обучена на этих человеческих суждениях, она значительно усилила эту предвзятость, классифицируя лица как грустные в 65% случаев.
Чтобы проверить эту гипотезу, в каждом из 300 испытаний участники сначала указывали, был ли массив из 12 лиц более грустным или более радостным. Затем им предъявляли ответ ИИ на тот же массив (участникам говорили, что им «представят ответ алгоритма ИИ, обученного выполнять задачу»). Затем их спрашивали, хотели бы они изменить свой первоначальный ответ или нет (то есть с более грустного на более радостный или наоборот). Участники изменили свой ответ в 32,72% (±2,3% s.e.) испытаний, в которых ИИ дал другой ответ, и в 0,3% (±0,1% s.e.) испытаний, в которых ИИ дал такой же ответ, как и они
Human–human interactions did not amplify bias: взаимодействие людей не плодит искажения, что, конечно, вызов, что смелый вывод, как по мне, но на фоне цифр от взаимодействия с ИИ - получается похоже на то.
Nature
How human–AI feedback loops alter human perceptual, emotional and social judgements
Nature Human Behaviour - Glickman and Sharot reveal a human–AI feedback loop, where AI amplifies subtle human biases, which are then further internalized by humans. This cycle, observed...
Паттерны с агентами и взаимодействия агентов ИИ с человеком
1. Expert Pattern (Экспертный шаблон)
AI-агент выступает как эксперт, получая вопрос или задачу и выдавая результат.
Это самый базовый вариант: агент самостоятельно обрабатывает запрос без валидации или делегирования.
2. Validation Pattern (Шаблон валидации)
AI-агент (эксперт) выполняет задание, но его результат проверяется другим агентом (валидатором), который либо подтверждает его, либо отвергает.
Используется в системах, где нужна дополнительная проверка качества или фильтрация.
3. Task Splitting Pattern (Шаблон разбиения задач)
Главный агент делит задачу на подзадачи и распределяет их между подчиненными агентами.
Затем объединяет результаты в финальный ответ.
Такой подход полезен для параллельной обработки больших задач.
4. Delegation Pattern (Шаблон делегирования)
AI-агент может передавать задачи другим агентам, создавая многоуровневую структуру.
Например, один агент (супервайзер) передает работу другим агентам, а затем собирает итоговый результат.
Полезен для иерархических систем, где AI управляет подчиненными агентами.
5. Human-in-the-Loop Pattern (Шаблон «человек в контуре»)
AI-агенты выполняют задачи, но некоторые действия требуют подтверждения человека.
Человек может одобрить использование инструментов, контекста, памяти и т. д.
Подходит для критически важных решений, где нужна человеческая интерпретация.
6. RAG Pattern (Шаблон Retrieval-Augmented Generation)
Агент ищет внешнюю информацию в базах данных или других источниках (Retrieval Agent).
Затем передает ее агенту, который генерирует ответ на основе найденных данных.
Используется в LLM-системах для улучшения точности и актуальности ответов.
1. Expert Pattern (Экспертный шаблон)
AI-агент выступает как эксперт, получая вопрос или задачу и выдавая результат.
Это самый базовый вариант: агент самостоятельно обрабатывает запрос без валидации или делегирования.
2. Validation Pattern (Шаблон валидации)
AI-агент (эксперт) выполняет задание, но его результат проверяется другим агентом (валидатором), который либо подтверждает его, либо отвергает.
Используется в системах, где нужна дополнительная проверка качества или фильтрация.
3. Task Splitting Pattern (Шаблон разбиения задач)
Главный агент делит задачу на подзадачи и распределяет их между подчиненными агентами.
Затем объединяет результаты в финальный ответ.
Такой подход полезен для параллельной обработки больших задач.
4. Delegation Pattern (Шаблон делегирования)
AI-агент может передавать задачи другим агентам, создавая многоуровневую структуру.
Например, один агент (супервайзер) передает работу другим агентам, а затем собирает итоговый результат.
Полезен для иерархических систем, где AI управляет подчиненными агентами.
5. Human-in-the-Loop Pattern (Шаблон «человек в контуре»)
AI-агенты выполняют задачи, но некоторые действия требуют подтверждения человека.
Человек может одобрить использование инструментов, контекста, памяти и т. д.
Подходит для критически важных решений, где нужна человеческая интерпретация.
6. RAG Pattern (Шаблон Retrieval-Augmented Generation)
Агент ищет внешнюю информацию в базах данных или других источниках (Retrieval Agent).
Затем передает ее агенту, который генерирует ответ на основе найденных данных.
Используется в LLM-системах для улучшения точности и актуальности ответов.
История технологий, Digi-Comp
Digi-Comp I — это функционирующий механический компьютер, продаваемый в виде набора. Набор надо собрать, что само по себе испытание. Компьютер представляет числа в двоичной системе, где каждый бит задается положением механических переключателей (вертикальные стержни, перемещаемые вручную или автоматически). Использует комбинацию физических элементов для выполнения операций AND, OR и NOT. Эти логические элементы могут комбинироваться для выполнения более сложных вычислений, потому что из этих трех логических операторов коньюнкции, дизъюнкции и отрицания можно вывести имплекацию, строгую дизъюнкцию и так далее.
Когда пользователь нажимает на кнопку "Clock" (такт выполнения), система обновляет свое состояние, перемещая механические части, тем самым имитируя процессорный цикл компьютера.
Позиционировался и продавался как детская развивающая игрушка.https://www.retrocmp.com/articles/digi-comp-1/302-digi-comp-1-introduction
https://www.youtube.com/watch?v=chrURgrkd44&ab_channel=LifewithDavid
Я бы в жизни не справился в детстве, конечно
Digi-Comp I — это функционирующий механический компьютер, продаваемый в виде набора. Набор надо собрать, что само по себе испытание. Компьютер представляет числа в двоичной системе, где каждый бит задается положением механических переключателей (вертикальные стержни, перемещаемые вручную или автоматически). Использует комбинацию физических элементов для выполнения операций AND, OR и NOT. Эти логические элементы могут комбинироваться для выполнения более сложных вычислений, потому что из этих трех логических операторов коньюнкции, дизъюнкции и отрицания можно вывести имплекацию, строгую дизъюнкцию и так далее.
Когда пользователь нажимает на кнопку "Clock" (такт выполнения), система обновляет свое состояние, перемещая механические части, тем самым имитируя процессорный цикл компьютера.
Позиционировался и продавался как детская развивающая игрушка.https://www.retrocmp.com/articles/digi-comp-1/302-digi-comp-1-introduction
https://www.youtube.com/watch?v=chrURgrkd44&ab_channel=LifewithDavid
Я бы в жизни не справился в детстве, конечно
Носимые устройства, работающие на энергии человеческого тела, человек как самостоятельная батарейка. Проводником электричества служит человеческая кожа. Интересно звучит и умные татуировки в этой связи, хотя и отдает вархаммером
The Future Interfaces Group (FIG) is an interdisciplinary research laboratory within the Human-Computer Interaction Institute at Carnegie Mellon University. We create new sensing and interface technologies that aim to make interactions between humans and computers more fluid, intuitive, and powerful. These efforts often lie in emerging use modalities, such as wearable computing, touch interfaces and gestural interaction.
https://www.youtube.com/watch?v=5PEN04-jyCU&ab_channel=FutureInterfacesGroup
https://www.youtube.com/watch?v=gi56CEKdBYY&ab_channel=FutureInterfacesGroup
The Future Interfaces Group (FIG) is an interdisciplinary research laboratory within the Human-Computer Interaction Institute at Carnegie Mellon University. We create new sensing and interface technologies that aim to make interactions between humans and computers more fluid, intuitive, and powerful. These efforts often lie in emerging use modalities, such as wearable computing, touch interfaces and gestural interaction.
https://www.youtube.com/watch?v=5PEN04-jyCU&ab_channel=FutureInterfacesGroup
https://www.youtube.com/watch?v=gi56CEKdBYY&ab_channel=FutureInterfacesGroup
Как увеличить производительность и экономическую эффективность UX-исследователя? Эвристики, демонология и нейросети
Очень долго готовил эту публикацию, но важно в ней, пожалуй, то, что любой человек может теперь развернуть и проверить на бесплатной нейросети с распознаванием изображений
https://habr.com/ru/companies/rostelecom/articles/881358/
Статья о практиках проектирования и способах использовать эвристики и другие данные при анализе макетов и реально работающих интерфейсов: прямое влияние на производительность труда проектировщика, косвенное влияние на многое другое, автоматизация некоторых аспектов труда юзабилити-специалиста.
Часто мы сталкиваемся со сложными и непростыми решениями, вопросами и практиками, каждая из которых требует восприятия UX как своеобразного способа увеличить производительность труда дизайнеров и разработчиков, экономить время и оптимизировать затраты в деньгах.
Как улучшить и сделать опыт взаимодействия пользователей не просто максимально комфортным, но и создать определенную практику постоянного увеличения производительности труда?
Очень долго готовил эту публикацию, но важно в ней, пожалуй, то, что любой человек может теперь развернуть и проверить на бесплатной нейросети с распознаванием изображений
https://habr.com/ru/companies/rostelecom/articles/881358/
Статья о практиках проектирования и способах использовать эвристики и другие данные при анализе макетов и реально работающих интерфейсов: прямое влияние на производительность труда проектировщика, косвенное влияние на многое другое, автоматизация некоторых аспектов труда юзабилити-специалиста.
Часто мы сталкиваемся со сложными и непростыми решениями, вопросами и практиками, каждая из которых требует восприятия UX как своеобразного способа увеличить производительность труда дизайнеров и разработчиков, экономить время и оптимизировать затраты в деньгах.
Как улучшить и сделать опыт взаимодействия пользователей не просто максимально комфортным, но и создать определенную практику постоянного увеличения производительности труда?
Хабр
Как увеличить производительность и экономическую эффективность UX-исследователя? Эвристики, демонология и нейросети
Правила и концепции улучшения UX и юзабилити. Понятие эвристики и чек-листа Часто мы в Ростелекоме сталкиваемся со сложными и непростыми решениями, вопросами и практиками, каждая из которых требует...
Любопытно, что на страницах "Технической эстетики" есть хронологически первая публикация по нашему кругу тем - и публикация эта принадлежит Геллерштейну!
Это буквально генеалогическое родство советских психотехников и советских же эргономистов позволяет сделать вывод о том, что опыт пользователя, инженерная психология и другие дисциплины из спектра HCI были исторически связаны с работами психотехников 20ых годов. Итак, о чем писал Геллерштейн?
То, что человек не может овладеть разными машинами с одинаковой легкостью по сравнению с современными техническими системами, очевидно для каждого. В этом отношении показательным примером может служить рулевое управление судном. Человек, впервые севший на ее корму, не сразу усваивает правила управления и часто сбивается, потому что движение руля налево достигает поворота носа судна в противоположную сторону. Вот почему так необходимо изучение тех условий, при которых управление осуществлялось бы безошибочно.
В этот момент почти признания Соломону Геллерштейну уже 67 лет, через три года его не станет. В заключении он видит большую междисциплинарную картину действий по созданию того, что так и не стало советским UX
Это буквально генеалогическое родство советских психотехников и советских же эргономистов позволяет сделать вывод о том, что опыт пользователя, инженерная психология и другие дисциплины из спектра HCI были исторически связаны с работами психотехников 20ых годов. Итак, о чем писал Геллерштейн?
То, что человек не может овладеть разными машинами с одинаковой легкостью по сравнению с современными техническими системами, очевидно для каждого. В этом отношении показательным примером может служить рулевое управление судном. Человек, впервые севший на ее корму, не сразу усваивает правила управления и часто сбивается, потому что движение руля налево достигает поворота носа судна в противоположную сторону. Вот почему так необходимо изучение тех условий, при которых управление осуществлялось бы безошибочно.
В этот момент почти признания Соломону Геллерштейну уже 67 лет, через три года его не станет. В заключении он видит большую междисциплинарную картину действий по созданию того, что так и не стало советским UX
Парадокс технологии безопасности транспортных средств.
Согласно отчету AAA Foundation for Traffic Safety, если передовые системы помощи водителю (ADAS) будут установлены на всех транспортных средствах, это потенциально может предотвратить более 2,7 миллиона аварий, 1,1 миллиона травм и почти 9500 смертей ежегодно. Тем не менее, он также предупреждает, что многие водители не знают о текущих ограничениях безопасности. Согласно опросу, проведенному Национальным советом безопасности в 2017 году, более 30 процентов респондентов ошибочно полагали, что их автомобили настолько продвинуты, что «моя машина в значительной степени ездит сама по себе». Тем не менее, согласно тому же опросу, 37 процентов респондентов, которые водили автомобили с такими функциями, как мониторинг слепых зон и предупреждение о выходе из полосы движения, сообщили, что отключали их, потому что это «сбивало с толку», «раздражало» или выдавало «слишком много ложных срабатываний».
Многие водители уже возложили ответственность за поддержание активного контроля над своими автомобилями на эти системы, что подчеркивает проблему — чрезмерная зависимость от технологий без надлежащих знаний или обучения. Основываясь на приведенной выше статистике, видно, что водители не знают о том, что запускает эти системы, как реагировать после запуска и о повышенных уровнях риска при активации технологии.
Еще более тревожным является тот факт, что во многих случаях водители считают, что системы их транспортных средств имеют функции безопасности, которые на самом деле не установлены.
Отчет 2022 года удален, кстати, но зато много ссылок осталось в сети
https://www.drivingdynamics.com/driver-safety-news/vehicle-safety-technology-over-reliance
Согласно отчету AAA Foundation for Traffic Safety, если передовые системы помощи водителю (ADAS) будут установлены на всех транспортных средствах, это потенциально может предотвратить более 2,7 миллиона аварий, 1,1 миллиона травм и почти 9500 смертей ежегодно. Тем не менее, он также предупреждает, что многие водители не знают о текущих ограничениях безопасности. Согласно опросу, проведенному Национальным советом безопасности в 2017 году, более 30 процентов респондентов ошибочно полагали, что их автомобили настолько продвинуты, что «моя машина в значительной степени ездит сама по себе». Тем не менее, согласно тому же опросу, 37 процентов респондентов, которые водили автомобили с такими функциями, как мониторинг слепых зон и предупреждение о выходе из полосы движения, сообщили, что отключали их, потому что это «сбивало с толку», «раздражало» или выдавало «слишком много ложных срабатываний».
Многие водители уже возложили ответственность за поддержание активного контроля над своими автомобилями на эти системы, что подчеркивает проблему — чрезмерная зависимость от технологий без надлежащих знаний или обучения. Основываясь на приведенной выше статистике, видно, что водители не знают о том, что запускает эти системы, как реагировать после запуска и о повышенных уровнях риска при активации технологии.
Еще более тревожным является тот факт, что во многих случаях водители считают, что системы их транспортных средств имеют функции безопасности, которые на самом деле не установлены.
Отчет 2022 года удален, кстати, но зато много ссылок осталось в сети
https://www.drivingdynamics.com/driver-safety-news/vehicle-safety-technology-over-reliance
Drivingdynamics
Technology Overreliance: Don’t Forget, the Driver Must Be in Control
If advanced-driver-assist system (ADAS) technologies are installed on all vehicles, it could potentially prevent more than 2.7 million crashes, 1.1 million
А нам 6 лет! С днем рождения, Цифровой геноцид. Традиционный юбилейный пост на канале
Сегодня день Луперкалий, древнеримский праздник очищения и плодородия. В этот день римские патриции приносили в жертву животных, пьянствовали и исполняли религиозные мистерии. Прошли годы, римский языческий праздник сменил христианский день романтической или куртуазной любви (интересно, писали ли об этом Мишель Фуко?), маркетологи сделали из мистерий культ консюмеризма для потребления сердец, шоколада и ювелирки. Омерзительно, правда?
Шесть лет назад я сидел на работе и грустил. Но меня посетила одна идея, которая оказалась несколько плодотворнее, чем я думал вначале. В этот день я создал проект «Цифровой геноцид» — проект о HCI, интерфейсах и цифровой антропологии пользователя. Я был одинок, грустен, зол, много пил и предавался мизантропии. Что ж, теперь вы можете наблюдать все эти явления в прямом эфире. Луперкалии - это хороший выбор для начала чего-то нового, подумал я, а судя по подписчикам и читателям боги плодородия не обошли начинание стороной.
У нас есть вообще чат: нажмите на кнопку Diskuss или обсудить и напишите свои идеи, пожелания и мыли о развитии канала. А еще сегодня будет поле комментирования, куда вы тоже можете сбросить свое пожелание о канале.
Всем хороших Луперкалий!
Сегодня день Луперкалий, древнеримский праздник очищения и плодородия. В этот день римские патриции приносили в жертву животных, пьянствовали и исполняли религиозные мистерии. Прошли годы, римский языческий праздник сменил христианский день романтической или куртуазной любви (интересно, писали ли об этом Мишель Фуко?), маркетологи сделали из мистерий культ консюмеризма для потребления сердец, шоколада и ювелирки. Омерзительно, правда?
Шесть лет назад я сидел на работе и грустил. Но меня посетила одна идея, которая оказалась несколько плодотворнее, чем я думал вначале. В этот день я создал проект «Цифровой геноцид» — проект о HCI, интерфейсах и цифровой антропологии пользователя. Я был одинок, грустен, зол, много пил и предавался мизантропии. Что ж, теперь вы можете наблюдать все эти явления в прямом эфире. Луперкалии - это хороший выбор для начала чего-то нового, подумал я, а судя по подписчикам и читателям боги плодородия не обошли начинание стороной.
У нас есть вообще чат: нажмите на кнопку Diskuss или обсудить и напишите свои идеи, пожелания и мыли о развитии канала. А еще сегодня будет поле комментирования, куда вы тоже можете сбросить свое пожелание о канале.
Всем хороших Луперкалий!
Итак, на прошедшем AI Action Summit 2025 LeCun предлагает отказаться от:
1) генеративных моделей в пользу архитектур совместного внедрения(надо разбираться, не знаю что это)
2) вероятностных моделей для моделей на основе энергии - energy-based models;
3) контрастных методов для регуляризованных методов; и
4) обучения с подкреплением (RL) как основного подхода к управлению с прогнозированием моделей (MPC).
Он предлагает использовать RL только в качестве корректирующей меры, когда MPC терпит неудачу. Наиболее спорным является его утверждение, что LLM не являются путем к ИИ человеческого уровня, утверждая, что им не хватает истинного рассуждения и понимания, и вместо этого они являются сложными сопоставителями образов. Общее послание Лекуна заключается в отходе от генеративных моделей, вероятностных подходов, контрастного обучения и сильной зависимости от RL к представлениям на основе внедрения, моделям на основе энергии, регуляризации и управлению с прогнозированием моделей, с упором на создание моделей, которые могут действительно учиться, рассуждать и понимать мир.
https://www.youtube.com/watch?v=xnFmnU0Pp-8&ab_channel=DSAIbyDr.OsbertTay
В прошлом именно он указывал, что основная проблема внедрения ЛЛМ - это "заземление", чтобы уменьшать галлюцинации при внедрении в реальные работы, и , на мой взгляд, оказался прав.
1) генеративных моделей в пользу архитектур совместного внедрения(надо разбираться, не знаю что это)
2) вероятностных моделей для моделей на основе энергии - energy-based models;
3) контрастных методов для регуляризованных методов; и
4) обучения с подкреплением (RL) как основного подхода к управлению с прогнозированием моделей (MPC).
Он предлагает использовать RL только в качестве корректирующей меры, когда MPC терпит неудачу. Наиболее спорным является его утверждение, что LLM не являются путем к ИИ человеческого уровня, утверждая, что им не хватает истинного рассуждения и понимания, и вместо этого они являются сложными сопоставителями образов. Общее послание Лекуна заключается в отходе от генеративных моделей, вероятностных подходов, контрастного обучения и сильной зависимости от RL к представлениям на основе внедрения, моделям на основе энергии, регуляризации и управлению с прогнозированием моделей, с упором на создание моделей, которые могут действительно учиться, рассуждать и понимать мир.
https://www.youtube.com/watch?v=xnFmnU0Pp-8&ab_channel=DSAIbyDr.OsbertTay
В прошлом именно он указывал, что основная проблема внедрения ЛЛМ - это "заземление", чтобы уменьшать галлюцинации при внедрении в реальные работы, и , на мой взгляд, оказался прав.