Цифровой геноцид

Когнитивная эргономика и большие языковые модели

Интеграция когнитивной эргономики с LLM необходима для повышения безопасности, надежности и удовлетворенности пользователей при взаимодействии человека и ИИ. В нынешнем дизайне LLM часто отсутствует такая интеграция, что приводит к созданию систем познания, которые могут не полностью соответствовать когнитивным возможностям и ограничениям человека.

С этого абзаца начинается статья(точнее аннотация) CogErgLLM: Exploring Large Language Model Systems Design Perspective Using Cognitive Ergonomics - что это за когнитивная эргномика такая? Резко стало интересно.

Когнитивная эргономика — это исследование того, как проектировать системы и интерфейсы, которые соответствуют когнитивным способностям и ограничениям человека для повышения эффективности, безопасности и удовлетворенности пользователей (Branaghan & Lafko, 2020; Veer, 2008). Целью выступает оптимизация умственных процессов, таких как память, внимание, умственная нагрузка и принятие решений при взаимодействии человека и машины (Бид, 2023). На LLM также могут влиять различные психологические, технологические факторы и факторы, связанные с принятием решений, такие как нехватка времени, эмоции и стили принятия решений, чтобы адаптироваться к человеческим потребностям и функциям.

Дальше автор продолжает:
Хотя исследователи активно работают в этой области, в нынешнем дизайне LLM-систем часто отсутствует комплексная интеграция когнитивной эргономики, в результате чего системы могут не полностью соответствовать когнитивным возможностям и ограничениям человека.

Здесь предполагается некий CogErgLLM фреймворк целью которого должно быть использование стандартов (в виде промтов?) - ясности, объяснимости (почему большая языковая модель дала именно этот ответ), контроль когнитивной нагрузки (чтобы не выдавать лишнее), ответы языковой модели направленные на повышение концентрации и так далее.

Все описано достаточно лапидарно и напоминает схоластические поиски категорий или работы Грайса из 60ых о прагматике языка. Тем не менее, любопытно само направление и список литературы

Главное, что, как кажется, отмечено верно - это то, что - так как языковая модель работает как стохастический градиентный спуск - понять почему ответ дается именно таким, а не другим бывает невозможно - пользователю хочется интуитивно использовать подходы и паттерны при работе со старыми базами данных и использовать промты как операторы в поисковике баз данных. Автор собственно и пишет: увеличение уровня прозрачности в работе LLM помогает пользователям лучше понимать, как и почему система принимает те или иные решения

www.group-telegram.com/id/gulagdigital.com/2697

1.0K viewsedited  Jul 5, 2024 at 11:57

Когнитивная эргономика и большие языковые модели

Интеграция когнитивной эргономики с LLM необходима для повышения безопасности, надежности и удовлетворенности пользователей при взаимодействии человека и ИИ. В нынешнем дизайне LLM часто отсутствует такая интеграция, что приводит к созданию систем познания, которые могут не полностью соответствовать когнитивным возможностям и ограничениям человека.

С этого абзаца начинается статья(точнее аннотация) CogErgLLM: Exploring Large Language Model Systems Design Perspective Using Cognitive Ergonomics - что это за когнитивная эргномика такая? Резко стало интересно.

Когнитивная эргономика — это исследование того, как проектировать системы и интерфейсы, которые соответствуют когнитивным способностям и ограничениям человека для повышения эффективности, безопасности и удовлетворенности пользователей (Branaghan & Lafko, 2020; Veer, 2008). Целью выступает оптимизация умственных процессов, таких как память, внимание, умственная нагрузка и принятие решений при взаимодействии человека и машины (Бид, 2023). На LLM также могут влиять различные психологические, технологические факторы и факторы, связанные с принятием решений, такие как нехватка времени, эмоции и стили принятия решений, чтобы адаптироваться к человеческим потребностям и функциям.

Дальше автор продолжает:
Хотя исследователи активно работают в этой области, в нынешнем дизайне LLM-систем часто отсутствует комплексная интеграция когнитивной эргономики, в результате чего системы могут не полностью соответствовать когнитивным возможностям и ограничениям человека.

Здесь предполагается некий CogErgLLM фреймворк целью которого должно быть использование стандартов (в виде промтов?) - ясности, объяснимости (почему большая языковая модель дала именно этот ответ), контроль когнитивной нагрузки (чтобы не выдавать лишнее), ответы языковой модели направленные на повышение концентрации и так далее.

Все описано достаточно лапидарно и напоминает схоластические поиски категорий или работы Грайса из 60ых о прагматике языка. Тем не менее, любопытно само направление и список литературы

Главное, что, как кажется, отмечено верно - это то, что - так как языковая модель работает как стохастический градиентный спуск - понять почему ответ дается именно таким, а не другим бывает невозможно - пользователю хочется интуитивно использовать подходы и паттерны при работе со старыми базами данных и использовать промты как операторы в поисковике баз данных. Автор собственно и пишет: увеличение уровня прозрачности в работе LLM помогает пользователям лучше понимать, как и почему система принимает те или иные решения

BY Цифровой геноцид