ТЕХНО: Яндекс про технологии ✔

🤖🧘Вы наверняка видели новости о главной драме этих выходных в мире технологий: в OpenAI сменилось три гендиректора за три дня, а Сэм Альтман в итоге ушёл в Microsoft, чтобы возглавить новое направление по развитию ИИ.

Из официального заявления компании причины происходящего не ясны, но несколько изданий утверждают, что ими стали разногласия между Альтманом, сторонником быстрого развития бизнеса, и главным учёным компании Ильей Суцкевером. Он выступает за более осторожный подход, учитывающий потенциальные риски, которые несёт в себе развитый искусственный интеллект. Усилия, прикладываемые для этого разработчиками, принято называть выравниванием, или согласованием.

Этот термин относительно новый и ещё не успел закрепиться в русском языке, но он важен для понимания того, в каком направлении двигается индустрия. Генеративные нейросети развиваются настолько быстро, что часть учёных предупреждает: в какой-то момент он может существенно опередить человека и стать неконтролируемой силой, которую гипотетически невозможно будет отключить.

Чтобы это предотвратить, а также сделать более безопасной работу существующих нейросетей, многие компании-разработчики создали специальные команды, занимающиеся проблемой выравнивания искусственного интеллекта. Такая доработка технологий даст уверенность в том, что развитие искусственного интеллекта соответствует ценностям и намерениям человечества.

Выравнивание — одна из целей AI-тренеров. Они «воспитывают» языковые модели, оценивая их работу и показывая примеры корректных ответов.

Подписывайтесь 👉@techno_yandex

Не пропускайте новости Яндекса тут @yandex

www.group-telegram.com/us/techno_yandex.com/2011

61.3K viewsedited  Nov 20, 2023 at 13:33

🤖🧘Вы наверняка видели новости о главной драме этих выходных в мире технологий: в OpenAI сменилось три гендиректора за три дня, а Сэм Альтман в итоге ушёл в Microsoft, чтобы возглавить новое направление по развитию ИИ.

Из официального заявления компании причины происходящего не ясны, но несколько изданий утверждают, что ими стали разногласия между Альтманом, сторонником быстрого развития бизнеса, и главным учёным компании Ильей Суцкевером. Он выступает за более осторожный подход, учитывающий потенциальные риски, которые несёт в себе развитый искусственный интеллект. Усилия, прикладываемые для этого разработчиками, принято называть выравниванием, или согласованием.

Этот термин относительно новый и ещё не успел закрепиться в русском языке, но он важен для понимания того, в каком направлении двигается индустрия. Генеративные нейросети развиваются настолько быстро, что часть учёных предупреждает: в какой-то момент он может существенно опередить человека и стать неконтролируемой силой, которую гипотетически невозможно будет отключить.

Чтобы это предотвратить, а также сделать более безопасной работу существующих нейросетей, многие компании-разработчики создали специальные команды, занимающиеся проблемой выравнивания искусственного интеллекта. Такая доработка технологий даст уверенность в том, что развитие искусственного интеллекта соответствует ценностям и намерениям человечества.

Выравнивание — одна из целей AI-тренеров. Они «воспитывают» языковые модели, оценивая их работу и показывая примеры корректных ответов.

Подписывайтесь 👉@techno_yandex

Не пропускайте новости Яндекса тут @yandex

BY ТЕХНО: Яндекс про технологии