group-telegram.com/techno_yandex/2011
Last Update:
🤖🧘Вы наверняка видели новости о главной драме этих выходных в мире технологий: в OpenAI сменилось три гендиректора за три дня, а Сэм Альтман в итоге ушёл в Microsoft, чтобы возглавить новое направление по развитию ИИ.
Из официального заявления компании причины происходящего не ясны, но несколько изданий утверждают, что ими стали разногласия между Альтманом, сторонником быстрого развития бизнеса, и главным учёным компании Ильей Суцкевером. Он выступает за более осторожный подход, учитывающий потенциальные риски, которые несёт в себе развитый искусственный интеллект. Усилия, прикладываемые для этого разработчиками, принято называть выравниванием, или согласованием.
Этот термин относительно новый и ещё не успел закрепиться в русском языке, но он важен для понимания того, в каком направлении двигается индустрия. Генеративные нейросети развиваются настолько быстро, что часть учёных предупреждает: в какой-то момент он может существенно опередить человека и стать неконтролируемой силой, которую гипотетически невозможно будет отключить.
Чтобы это предотвратить, а также сделать более безопасной работу существующих нейросетей, многие компании-разработчики создали специальные команды, занимающиеся проблемой выравнивания искусственного интеллекта. Такая доработка технологий даст уверенность в том, что развитие искусственного интеллекта соответствует ценностям и намерениям человечества.
Выравнивание — одна из целей AI-тренеров. Они «воспитывают» языковые модели, оценивая их работу и показывая примеры корректных ответов.
Подписывайтесь 👉@techno_yandex
Не пропускайте новости Яндекса тут @yandex
BY ТЕХНО: Яндекс про технологии
Share with your friend now:
group-telegram.com/techno_yandex/2011