Курилка Яндекса

OpenAI будет исследовать мораль в ИИ

Американская OpenAI выделила грант Дьюкскому университету на проект по исследованию нравственности в системах ИИ. Он стал частью инициативы организации, в рамках которой она выделила 1 миллион долларов на изучение способов сделать ИИ морально сознательным в течение трех лет.

Целью текущей работы является обучение алгоритмов, которые будут предсказывать моральные суждения человека в таких областях, как медицина, юриспруденция и бизнес. Сейчас ИИ не понимает этические концепции, рассуждения и эмоции, которые важны при принятии моральных решений. Но исследователи видят в этом огромный потенциал.

В России вопросами нравственности при развитии ИИ заинтересовались еще несколько лет назад: в 2021 году около двух десятков компаний, включая «Яндекс», VK, Сбер, МТС и др., подписали кодекс этики искусственного интеллекта, который должен стать базой для дальнейшего развития технологий. В числе ключевых принципов были приняты прозрачность, правдивость, ответственное отношение. В целом подобная координация и обмен опытом в части развития этических принципов ИИ могла бы в перспективе носить международный характер.

www.group-telegram.com/us/kurilka_yandex.com/56

60 viewsNov 25 at 09:10

OpenAI будет исследовать мораль в ИИ

Американская OpenAI выделила грант Дьюкскому университету на проект по исследованию нравственности в системах ИИ. Он стал частью инициативы организации, в рамках которой она выделила 1 миллион долларов на изучение способов сделать ИИ морально сознательным в течение трех лет.

Целью текущей работы является обучение алгоритмов, которые будут предсказывать моральные суждения человека в таких областях, как медицина, юриспруденция и бизнес. Сейчас ИИ не понимает этические концепции, рассуждения и эмоции, которые важны при принятии моральных решений. Но исследователи видят в этом огромный потенциал.

В России вопросами нравственности при развитии ИИ заинтересовались еще несколько лет назад: в 2021 году около двух десятков компаний, включая «Яндекс», VK, Сбер, МТС и др., подписали кодекс этики искусственного интеллекта, который должен стать базой для дальнейшего развития технологий. В числе ключевых принципов были приняты прозрачность, правдивость, ответственное отношение. В целом подобная координация и обмен опытом в части развития этических принципов ИИ могла бы в перспективе носить международный характер.

BY Курилка Яндекса