Warning: mkdir(): No space left on device in /var/www/group-telegram/post.php on line 37
Warning: file_put_contents(aCache/aDaily/post/contentreview/--): Failed to open stream: No such file or directory in /var/www/group-telegram/post.php on line 50 Content Review | Telegram Webview: contentreview/8274 -
История с открытым письмом, которое призывает приостановить обучение мощных нейросетей, на самом деле очень и очень показательна. Появилась новость, мол, технология таит в себе столь серьёзную опасность, что вынудила аж тысячу учёных написать открытое обращение. И даже такой энтузиаст как Илон Маск проникся текстом и поставил свою подпись.
Нормальная человеческая реакция на такое письмо это любопытство. Что же там такое вдруг обнаружилось? Открываем текст, и первое что видим: большая кнопка «добавить подпись» и счётчик подписей. Что уже наводит на подозрения. Далее следует текст, объёмом примерно 3800 знаков. Он слегка стилизован под научную публикацию и даже декорирован ссылками. Его смысл прост: бурное развитие нейросетей непонятно к чему может привести, это вызывает тревогу, поэтому срочно нужно ввести ограничительную меру. Которая, в отличие от угроз, сформулирована весьма конкретно: нужно минимум на полгода приостановить обучение нейросетей более мощных чем GPT-4.
То есть потратив 2-3 минуты вы понимаете, что авторы текста требуют приостановить развитие вполне конкретного коммерческого продукта. Конечно, если вы хоть немного знакомы с ситуацией на рынке. Сейчас система более мощная чем GPT-4 — это следующая версия GPT. Конкуренты не поспевают за ней. И самым серьёзным препятствием у них на пути являются не алгоритмы или дефицит вычислительных мощностей. Наиболее затратным является обучение таких гигантских систем, которое требует специально подготовленных данных и времени. И пока этот разрыв сохраняется, OpenAI активно захватывает рынок. Все предельно просто.
То есть беглого прочтения первоисточника достаточно для того, чтобы не постить безумные тексты о том, какая угроза нависла над цивилизацией. Но даже если вы далеки от рынка, то дочитав текст, вы увидите подписантов. Ту самую тысячу учёных. И буквально сразу заметите, что людей из отрасли там не так чтобы много. К примеру, уже подпись номер 52 принадлежит магистранту чешского ВУЗа. Да, он реально занимается проблематикой, является соавтором вполне адекватных, но мягко говоря не революционных публикаций в количестве 4 штук. Но даже тут, при всем уважении, его соавторов мы в списке не видим. В начале второй сотни подписавших уже можно встретить дипломата на пенсии, в третьей сотне появляется «самоучка». Это не метафора, буквально человек так подписался. И далее по нарастающей, вплоть до обеспокоенных граждан. То есть опять же буквально: кто-то подписался как «concerned citizen».
Тысяча учёных требуют, да. И тут уже можно остановится, и не вспоминать историю взаимоотношений Маска и OpenAI, или тот факт, что сайт, где опубликовано это письмо, принадлежит некоммерческой организации основанной на грант того же самого Маска.
Проблема не в том, что это письмо послужило поводом кому-то ещё раз напомнить то, насколько плохо преподаётся философия в ВУЗах. Нет, мы видим большое количество публикаций, которые позиционируются как экспертные, а тезисы из них перетекают даже в аналитические записки.
И такое происходит постоянно. К примеру, некоторое время назад была волна прогнозов такого же качества относительно микроядерной операционной системы Huawei. Люди часами рассказывали о том, что Гугл вот-вот налетит на поднебесную ось с микроядром. И ведь не так сложно оценить хотя бы примерные объёмы работ, чтобы понять, что такие гигантские проекты не могут проводится бесследно. Перемещение кадров, публикации, код в открытых репо и так далее. Небольшого исследования достаточно, чтобы понять, что никакой микроядерной ОС в обозримом будущем от Huawei не будет и вряд ли можно ожидать чего-то большего чем форк Android. О чем мы и писали ещё в 2019 году. Альтернативные же прогнозы подкреплялись аргументами в стиле «я геополитик, я так вижу». И это ещё полбеды. Беда в том, что все больше людей находят такую аргументацию убедительной.
Такими темпами можно дойти и до карт таро, экстрасенсов и аналитики состоящей на половину из эмоджи. Что ж, подождём. Кто знает, может мы скоро увидим отчёты о влиянии ретроградного меркурия на рынок полупроводников.
История с открытым письмом, которое призывает приостановить обучение мощных нейросетей, на самом деле очень и очень показательна. Появилась новость, мол, технология таит в себе столь серьёзную опасность, что вынудила аж тысячу учёных написать открытое обращение. И даже такой энтузиаст как Илон Маск проникся текстом и поставил свою подпись.
Нормальная человеческая реакция на такое письмо это любопытство. Что же там такое вдруг обнаружилось? Открываем текст, и первое что видим: большая кнопка «добавить подпись» и счётчик подписей. Что уже наводит на подозрения. Далее следует текст, объёмом примерно 3800 знаков. Он слегка стилизован под научную публикацию и даже декорирован ссылками. Его смысл прост: бурное развитие нейросетей непонятно к чему может привести, это вызывает тревогу, поэтому срочно нужно ввести ограничительную меру. Которая, в отличие от угроз, сформулирована весьма конкретно: нужно минимум на полгода приостановить обучение нейросетей более мощных чем GPT-4.
То есть потратив 2-3 минуты вы понимаете, что авторы текста требуют приостановить развитие вполне конкретного коммерческого продукта. Конечно, если вы хоть немного знакомы с ситуацией на рынке. Сейчас система более мощная чем GPT-4 — это следующая версия GPT. Конкуренты не поспевают за ней. И самым серьёзным препятствием у них на пути являются не алгоритмы или дефицит вычислительных мощностей. Наиболее затратным является обучение таких гигантских систем, которое требует специально подготовленных данных и времени. И пока этот разрыв сохраняется, OpenAI активно захватывает рынок. Все предельно просто.
То есть беглого прочтения первоисточника достаточно для того, чтобы не постить безумные тексты о том, какая угроза нависла над цивилизацией. Но даже если вы далеки от рынка, то дочитав текст, вы увидите подписантов. Ту самую тысячу учёных. И буквально сразу заметите, что людей из отрасли там не так чтобы много. К примеру, уже подпись номер 52 принадлежит магистранту чешского ВУЗа. Да, он реально занимается проблематикой, является соавтором вполне адекватных, но мягко говоря не революционных публикаций в количестве 4 штук. Но даже тут, при всем уважении, его соавторов мы в списке не видим. В начале второй сотни подписавших уже можно встретить дипломата на пенсии, в третьей сотне появляется «самоучка». Это не метафора, буквально человек так подписался. И далее по нарастающей, вплоть до обеспокоенных граждан. То есть опять же буквально: кто-то подписался как «concerned citizen».
Тысяча учёных требуют, да. И тут уже можно остановится, и не вспоминать историю взаимоотношений Маска и OpenAI, или тот факт, что сайт, где опубликовано это письмо, принадлежит некоммерческой организации основанной на грант того же самого Маска.
Проблема не в том, что это письмо послужило поводом кому-то ещё раз напомнить то, насколько плохо преподаётся философия в ВУЗах. Нет, мы видим большое количество публикаций, которые позиционируются как экспертные, а тезисы из них перетекают даже в аналитические записки.
И такое происходит постоянно. К примеру, некоторое время назад была волна прогнозов такого же качества относительно микроядерной операционной системы Huawei. Люди часами рассказывали о том, что Гугл вот-вот налетит на поднебесную ось с микроядром. И ведь не так сложно оценить хотя бы примерные объёмы работ, чтобы понять, что такие гигантские проекты не могут проводится бесследно. Перемещение кадров, публикации, код в открытых репо и так далее. Небольшого исследования достаточно, чтобы понять, что никакой микроядерной ОС в обозримом будущем от Huawei не будет и вряд ли можно ожидать чего-то большего чем форк Android. О чем мы и писали ещё в 2019 году. Альтернативные же прогнозы подкреплялись аргументами в стиле «я геополитик, я так вижу». И это ещё полбеды. Беда в том, что все больше людей находят такую аргументацию убедительной.
Такими темпами можно дойти и до карт таро, экстрасенсов и аналитики состоящей на половину из эмоджи. Что ж, подождём. Кто знает, может мы скоро увидим отчёты о влиянии ретроградного меркурия на рынок полупроводников.
BY Content Review
Warning: Undefined variable $i in /var/www/group-telegram/post.php on line 260
Friday’s performance was part of a larger shift. For the week, the Dow, S&P 500 and Nasdaq fell 2%, 2.9%, and 3.5%, respectively. "Your messages about the movement of the enemy through the official chatbot … bring new trophies every day," the government agency tweeted. In February 2014, the Ukrainian people ousted pro-Russian president Viktor Yanukovych, prompting Russia to invade and annex the Crimean peninsula. By the start of April, Pavel Durov had given his notice, with TechCrunch saying at the time that the CEO had resisted pressure to suppress pages criticizing the Russian government. The gold standard of encryption, known as end-to-end encryption, where only the sender and person who receives the message are able to see it, is available on Telegram only when the Secret Chat function is enabled. Voice and video calls are also completely encrypted. "The inflation fire was already hot and now with war-driven inflation added to the mix, it will grow even hotter, setting off a scramble by the world’s central banks to pull back their stimulus earlier than expected," Chris Rupkey, chief economist at FWDBONDS, wrote in an email. "A spike in inflation rates has preceded economic recessions historically and this time prices have soared to levels that once again pose a threat to growth."
from br
