🤖🧘Вы наверняка видели новости о главной драме этих выходных в мире технологий: в OpenAI сменилось три гендиректора за три дня, а Сэм Альтман в итоге ушёл в Microsoft, чтобы возглавить новое направление по развитию ИИ.
Из официального заявления компании причины происходящего не ясны, но несколько изданий утверждают, что ими стали разногласия между Альтманом, сторонником быстрого развития бизнеса, и главным учёным компании Ильей Суцкевером. Он выступает за более осторожный подход, учитывающий потенциальные риски, которые несёт в себе развитый искусственный интеллект. Усилия, прикладываемые для этого разработчиками, принято называть выравниванием, или согласованием.
Этот термин относительно новый и ещё не успел закрепиться в русском языке, но он важен для понимания того, в каком направлении двигается индустрия. Генеративные нейросети развиваются настолько быстро, что часть учёных предупреждает: в какой-то момент он может существенно опередить человека и стать неконтролируемой силой, которую гипотетически невозможно будет отключить.
Чтобы это предотвратить, а также сделать более безопасной работу существующих нейросетей, многие компании-разработчики создали специальные команды, занимающиеся проблемой выравнивания искусственного интеллекта. Такая доработка технологий даст уверенность в том, что развитие искусственного интеллекта соответствует ценностям и намерениям человечества.
Выравнивание — одна из целей AI-тренеров. Они «воспитывают» языковые модели, оценивая их работу и показывая примеры корректных ответов.
🤖🧘Вы наверняка видели новости о главной драме этих выходных в мире технологий: в OpenAI сменилось три гендиректора за три дня, а Сэм Альтман в итоге ушёл в Microsoft, чтобы возглавить новое направление по развитию ИИ.
Из официального заявления компании причины происходящего не ясны, но несколько изданий утверждают, что ими стали разногласия между Альтманом, сторонником быстрого развития бизнеса, и главным учёным компании Ильей Суцкевером. Он выступает за более осторожный подход, учитывающий потенциальные риски, которые несёт в себе развитый искусственный интеллект. Усилия, прикладываемые для этого разработчиками, принято называть выравниванием, или согласованием.
Этот термин относительно новый и ещё не успел закрепиться в русском языке, но он важен для понимания того, в каком направлении двигается индустрия. Генеративные нейросети развиваются настолько быстро, что часть учёных предупреждает: в какой-то момент он может существенно опередить человека и стать неконтролируемой силой, которую гипотетически невозможно будет отключить.
Чтобы это предотвратить, а также сделать более безопасной работу существующих нейросетей, многие компании-разработчики создали специальные команды, занимающиеся проблемой выравнивания искусственного интеллекта. Такая доработка технологий даст уверенность в том, что развитие искусственного интеллекта соответствует ценностям и намерениям человечества.
Выравнивание — одна из целей AI-тренеров. Они «воспитывают» языковые модели, оценивая их работу и показывая примеры корректных ответов.
Ukrainian forces have since put up a strong resistance to the Russian troops amid the war that has left hundreds of Ukrainian civilians, including children, dead, according to the United Nations. Ukrainian and international officials have accused Russia of targeting civilian populations with shelling and bombardments. Messages are not fully encrypted by default. That means the company could, in theory, access the content of the messages, or be forced to hand over the data at the request of a government. The company maintains that it cannot act against individual or group chats, which are “private amongst their participants,” but it will respond to requests in relation to sticker sets, channels and bots which are publicly available. During the invasion of Ukraine, Pavel Durov has wrestled with this issue a lot more prominently than he has before. Channels like Donbass Insider and Bellum Acta, as reported by Foreign Policy, started pumping out pro-Russian propaganda as the invasion began. So much so that the Ukrainian National Security and Defense Council issued a statement labeling which accounts are Russian-backed. Ukrainian officials, in potential violation of the Geneva Convention, have shared imagery of dead and captured Russian soldiers on the platform. Some people used the platform to organize ahead of the storming of the U.S. Capitol in January 2021, and last month Senator Mark Warner sent a letter to Durov urging him to curb Russian information operations on Telegram. The S&P 500 fell 1.3% to 4,204.36, and the Dow Jones Industrial Average was down 0.7% to 32,943.33. The Dow posted a fifth straight weekly loss — its longest losing streak since 2019. The Nasdaq Composite tumbled 2.2% to 12,843.81. Though all three indexes opened in the green, stocks took a turn after a new report showed U.S. consumer sentiment deteriorated more than expected in early March as consumers' inflation expectations soared to the highest since 1981.
from es
