История с открытым письмом, которое призывает приостановить обучение мощных нейросетей, на самом деле очень и очень показательна. Появилась новость, мол, технология таит в себе столь серьёзную опасность, что вынудила аж тысячу учёных написать открытое обращение. И даже такой энтузиаст как Илон Маск проникся текстом и поставил свою подпись.
Нормальная человеческая реакция на такое письмо это любопытство. Что же там такое вдруг обнаружилось? Открываем текст, и первое что видим: большая кнопка «добавить подпись» и счётчик подписей. Что уже наводит на подозрения. Далее следует текст, объёмом примерно 3800 знаков. Он слегка стилизован под научную публикацию и даже декорирован ссылками. Его смысл прост: бурное развитие нейросетей непонятно к чему может привести, это вызывает тревогу, поэтому срочно нужно ввести ограничительную меру. Которая, в отличие от угроз, сформулирована весьма конкретно: нужно минимум на полгода приостановить обучение нейросетей более мощных чем GPT-4.
То есть потратив 2-3 минуты вы понимаете, что авторы текста требуют приостановить развитие вполне конкретного коммерческого продукта. Конечно, если вы хоть немного знакомы с ситуацией на рынке. Сейчас система более мощная чем GPT-4 — это следующая версия GPT. Конкуренты не поспевают за ней. И самым серьёзным препятствием у них на пути являются не алгоритмы или дефицит вычислительных мощностей. Наиболее затратным является обучение таких гигантских систем, которое требует специально подготовленных данных и времени. И пока этот разрыв сохраняется, OpenAI активно захватывает рынок. Все предельно просто.
То есть беглого прочтения первоисточника достаточно для того, чтобы не постить безумные тексты о том, какая угроза нависла над цивилизацией. Но даже если вы далеки от рынка, то дочитав текст, вы увидите подписантов. Ту самую тысячу учёных. И буквально сразу заметите, что людей из отрасли там не так чтобы много. К примеру, уже подпись номер 52 принадлежит магистранту чешского ВУЗа. Да, он реально занимается проблематикой, является соавтором вполне адекватных, но мягко говоря не революционных публикаций в количестве 4 штук. Но даже тут, при всем уважении, его соавторов мы в списке не видим. В начале второй сотни подписавших уже можно встретить дипломата на пенсии, в третьей сотне появляется «самоучка». Это не метафора, буквально человек так подписался. И далее по нарастающей, вплоть до обеспокоенных граждан. То есть опять же буквально: кто-то подписался как «concerned citizen».
Тысяча учёных требуют, да. И тут уже можно остановится, и не вспоминать историю взаимоотношений Маска и OpenAI, или тот факт, что сайт, где опубликовано это письмо, принадлежит некоммерческой организации основанной на грант того же самого Маска.
Проблема не в том, что это письмо послужило поводом кому-то ещё раз напомнить то, насколько плохо преподаётся философия в ВУЗах. Нет, мы видим большое количество публикаций, которые позиционируются как экспертные, а тезисы из них перетекают даже в аналитические записки.
И такое происходит постоянно. К примеру, некоторое время назад была волна прогнозов такого же качества относительно микроядерной операционной системы Huawei. Люди часами рассказывали о том, что Гугл вот-вот налетит на поднебесную ось с микроядром. И ведь не так сложно оценить хотя бы примерные объёмы работ, чтобы понять, что такие гигантские проекты не могут проводится бесследно. Перемещение кадров, публикации, код в открытых репо и так далее. Небольшого исследования достаточно, чтобы понять, что никакой микроядерной ОС в обозримом будущем от Huawei не будет и вряд ли можно ожидать чего-то большего чем форк Android. О чем мы и писали ещё в 2019 году. Альтернативные же прогнозы подкреплялись аргументами в стиле «я геополитик, я так вижу». И это ещё полбеды. Беда в том, что все больше людей находят такую аргументацию убедительной.
Такими темпами можно дойти и до карт таро, экстрасенсов и аналитики состоящей на половину из эмоджи. Что ж, подождём. Кто знает, может мы скоро увидим отчёты о влиянии ретроградного меркурия на рынок полупроводников.
История с открытым письмом, которое призывает приостановить обучение мощных нейросетей, на самом деле очень и очень показательна. Появилась новость, мол, технология таит в себе столь серьёзную опасность, что вынудила аж тысячу учёных написать открытое обращение. И даже такой энтузиаст как Илон Маск проникся текстом и поставил свою подпись.
Нормальная человеческая реакция на такое письмо это любопытство. Что же там такое вдруг обнаружилось? Открываем текст, и первое что видим: большая кнопка «добавить подпись» и счётчик подписей. Что уже наводит на подозрения. Далее следует текст, объёмом примерно 3800 знаков. Он слегка стилизован под научную публикацию и даже декорирован ссылками. Его смысл прост: бурное развитие нейросетей непонятно к чему может привести, это вызывает тревогу, поэтому срочно нужно ввести ограничительную меру. Которая, в отличие от угроз, сформулирована весьма конкретно: нужно минимум на полгода приостановить обучение нейросетей более мощных чем GPT-4.
То есть потратив 2-3 минуты вы понимаете, что авторы текста требуют приостановить развитие вполне конкретного коммерческого продукта. Конечно, если вы хоть немного знакомы с ситуацией на рынке. Сейчас система более мощная чем GPT-4 — это следующая версия GPT. Конкуренты не поспевают за ней. И самым серьёзным препятствием у них на пути являются не алгоритмы или дефицит вычислительных мощностей. Наиболее затратным является обучение таких гигантских систем, которое требует специально подготовленных данных и времени. И пока этот разрыв сохраняется, OpenAI активно захватывает рынок. Все предельно просто.
То есть беглого прочтения первоисточника достаточно для того, чтобы не постить безумные тексты о том, какая угроза нависла над цивилизацией. Но даже если вы далеки от рынка, то дочитав текст, вы увидите подписантов. Ту самую тысячу учёных. И буквально сразу заметите, что людей из отрасли там не так чтобы много. К примеру, уже подпись номер 52 принадлежит магистранту чешского ВУЗа. Да, он реально занимается проблематикой, является соавтором вполне адекватных, но мягко говоря не революционных публикаций в количестве 4 штук. Но даже тут, при всем уважении, его соавторов мы в списке не видим. В начале второй сотни подписавших уже можно встретить дипломата на пенсии, в третьей сотне появляется «самоучка». Это не метафора, буквально человек так подписался. И далее по нарастающей, вплоть до обеспокоенных граждан. То есть опять же буквально: кто-то подписался как «concerned citizen».
Тысяча учёных требуют, да. И тут уже можно остановится, и не вспоминать историю взаимоотношений Маска и OpenAI, или тот факт, что сайт, где опубликовано это письмо, принадлежит некоммерческой организации основанной на грант того же самого Маска.
Проблема не в том, что это письмо послужило поводом кому-то ещё раз напомнить то, насколько плохо преподаётся философия в ВУЗах. Нет, мы видим большое количество публикаций, которые позиционируются как экспертные, а тезисы из них перетекают даже в аналитические записки.
И такое происходит постоянно. К примеру, некоторое время назад была волна прогнозов такого же качества относительно микроядерной операционной системы Huawei. Люди часами рассказывали о том, что Гугл вот-вот налетит на поднебесную ось с микроядром. И ведь не так сложно оценить хотя бы примерные объёмы работ, чтобы понять, что такие гигантские проекты не могут проводится бесследно. Перемещение кадров, публикации, код в открытых репо и так далее. Небольшого исследования достаточно, чтобы понять, что никакой микроядерной ОС в обозримом будущем от Huawei не будет и вряд ли можно ожидать чего-то большего чем форк Android. О чем мы и писали ещё в 2019 году. Альтернативные же прогнозы подкреплялись аргументами в стиле «я геополитик, я так вижу». И это ещё полбеды. Беда в том, что все больше людей находят такую аргументацию убедительной.
Такими темпами можно дойти и до карт таро, экстрасенсов и аналитики состоящей на половину из эмоджи. Что ж, подождём. Кто знает, может мы скоро увидим отчёты о влиянии ретроградного меркурия на рынок полупроводников.
BY Content Review
Warning: Undefined variable $i in /var/www/group-telegram/post.php on line 260
The Dow Jones Industrial Average fell 230 points, or 0.7%. Meanwhile, the S&P 500 and the Nasdaq Composite dropped 1.3% and 2.2%, respectively. All three indexes began the day with gains before selling off. A Russian Telegram channel with over 700,000 followers is spreading disinformation about Russia's invasion of Ukraine under the guise of providing "objective information" and fact-checking fake news. Its influence extends beyond the platform, with major Russian publications, government officials, and journalists citing the page's posts. As such, the SC would like to remind investors to always exercise caution when evaluating investment opportunities, especially those promising unrealistically high returns with little or no risk. Investors should also never deposit money into someone’s personal bank account if instructed. "We're seeing really dramatic moves, and it's all really tied to Ukraine right now, and in a secondary way, in terms of interest rates," Octavio Marenzi, CEO of Opimas, told Yahoo Finance Live on Thursday. "This war in Ukraine is going to give the Fed the ammunition, the cover that it needs, to not raise interest rates too quickly. And I think Jay Powell is a very tepid sort of inflation fighter and he's not going to do as much as he needs to do to get that under control. And this seems like an excuse to kick the can further down the road still and not do too much too soon." In the United States, Telegram's lower public profile has helped it mostly avoid high level scrutiny from Congress, but it has not gone unnoticed.
from fr
