История с открытым письмом, которое призывает приостановить обучение мощных нейросетей, на самом деле очень и очень показательна. Появилась новость, мол, технология таит в себе столь серьёзную опасность, что вынудила аж тысячу учёных написать открытое обращение. И даже такой энтузиаст как Илон Маск проникся текстом и поставил свою подпись.
Нормальная человеческая реакция на такое письмо это любопытство. Что же там такое вдруг обнаружилось? Открываем текст, и первое что видим: большая кнопка «добавить подпись» и счётчик подписей. Что уже наводит на подозрения. Далее следует текст, объёмом примерно 3800 знаков. Он слегка стилизован под научную публикацию и даже декорирован ссылками. Его смысл прост: бурное развитие нейросетей непонятно к чему может привести, это вызывает тревогу, поэтому срочно нужно ввести ограничительную меру. Которая, в отличие от угроз, сформулирована весьма конкретно: нужно минимум на полгода приостановить обучение нейросетей более мощных чем GPT-4.
То есть потратив 2-3 минуты вы понимаете, что авторы текста требуют приостановить развитие вполне конкретного коммерческого продукта. Конечно, если вы хоть немного знакомы с ситуацией на рынке. Сейчас система более мощная чем GPT-4 — это следующая версия GPT. Конкуренты не поспевают за ней. И самым серьёзным препятствием у них на пути являются не алгоритмы или дефицит вычислительных мощностей. Наиболее затратным является обучение таких гигантских систем, которое требует специально подготовленных данных и времени. И пока этот разрыв сохраняется, OpenAI активно захватывает рынок. Все предельно просто.
То есть беглого прочтения первоисточника достаточно для того, чтобы не постить безумные тексты о том, какая угроза нависла над цивилизацией. Но даже если вы далеки от рынка, то дочитав текст, вы увидите подписантов. Ту самую тысячу учёных. И буквально сразу заметите, что людей из отрасли там не так чтобы много. К примеру, уже подпись номер 52 принадлежит магистранту чешского ВУЗа. Да, он реально занимается проблематикой, является соавтором вполне адекватных, но мягко говоря не революционных публикаций в количестве 4 штук. Но даже тут, при всем уважении, его соавторов мы в списке не видим. В начале второй сотни подписавших уже можно встретить дипломата на пенсии, в третьей сотне появляется «самоучка». Это не метафора, буквально человек так подписался. И далее по нарастающей, вплоть до обеспокоенных граждан. То есть опять же буквально: кто-то подписался как «concerned citizen».
Тысяча учёных требуют, да. И тут уже можно остановится, и не вспоминать историю взаимоотношений Маска и OpenAI, или тот факт, что сайт, где опубликовано это письмо, принадлежит некоммерческой организации основанной на грант того же самого Маска.
Проблема не в том, что это письмо послужило поводом кому-то ещё раз напомнить то, насколько плохо преподаётся философия в ВУЗах. Нет, мы видим большое количество публикаций, которые позиционируются как экспертные, а тезисы из них перетекают даже в аналитические записки.
И такое происходит постоянно. К примеру, некоторое время назад была волна прогнозов такого же качества относительно микроядерной операционной системы Huawei. Люди часами рассказывали о том, что Гугл вот-вот налетит на поднебесную ось с микроядром. И ведь не так сложно оценить хотя бы примерные объёмы работ, чтобы понять, что такие гигантские проекты не могут проводится бесследно. Перемещение кадров, публикации, код в открытых репо и так далее. Небольшого исследования достаточно, чтобы понять, что никакой микроядерной ОС в обозримом будущем от Huawei не будет и вряд ли можно ожидать чего-то большего чем форк Android. О чем мы и писали ещё в 2019 году. Альтернативные же прогнозы подкреплялись аргументами в стиле «я геополитик, я так вижу». И это ещё полбеды. Беда в том, что все больше людей находят такую аргументацию убедительной.
Такими темпами можно дойти и до карт таро, экстрасенсов и аналитики состоящей на половину из эмоджи. Что ж, подождём. Кто знает, может мы скоро увидим отчёты о влиянии ретроградного меркурия на рынок полупроводников.
История с открытым письмом, которое призывает приостановить обучение мощных нейросетей, на самом деле очень и очень показательна. Появилась новость, мол, технология таит в себе столь серьёзную опасность, что вынудила аж тысячу учёных написать открытое обращение. И даже такой энтузиаст как Илон Маск проникся текстом и поставил свою подпись.
Нормальная человеческая реакция на такое письмо это любопытство. Что же там такое вдруг обнаружилось? Открываем текст, и первое что видим: большая кнопка «добавить подпись» и счётчик подписей. Что уже наводит на подозрения. Далее следует текст, объёмом примерно 3800 знаков. Он слегка стилизован под научную публикацию и даже декорирован ссылками. Его смысл прост: бурное развитие нейросетей непонятно к чему может привести, это вызывает тревогу, поэтому срочно нужно ввести ограничительную меру. Которая, в отличие от угроз, сформулирована весьма конкретно: нужно минимум на полгода приостановить обучение нейросетей более мощных чем GPT-4.
То есть потратив 2-3 минуты вы понимаете, что авторы текста требуют приостановить развитие вполне конкретного коммерческого продукта. Конечно, если вы хоть немного знакомы с ситуацией на рынке. Сейчас система более мощная чем GPT-4 — это следующая версия GPT. Конкуренты не поспевают за ней. И самым серьёзным препятствием у них на пути являются не алгоритмы или дефицит вычислительных мощностей. Наиболее затратным является обучение таких гигантских систем, которое требует специально подготовленных данных и времени. И пока этот разрыв сохраняется, OpenAI активно захватывает рынок. Все предельно просто.
То есть беглого прочтения первоисточника достаточно для того, чтобы не постить безумные тексты о том, какая угроза нависла над цивилизацией. Но даже если вы далеки от рынка, то дочитав текст, вы увидите подписантов. Ту самую тысячу учёных. И буквально сразу заметите, что людей из отрасли там не так чтобы много. К примеру, уже подпись номер 52 принадлежит магистранту чешского ВУЗа. Да, он реально занимается проблематикой, является соавтором вполне адекватных, но мягко говоря не революционных публикаций в количестве 4 штук. Но даже тут, при всем уважении, его соавторов мы в списке не видим. В начале второй сотни подписавших уже можно встретить дипломата на пенсии, в третьей сотне появляется «самоучка». Это не метафора, буквально человек так подписался. И далее по нарастающей, вплоть до обеспокоенных граждан. То есть опять же буквально: кто-то подписался как «concerned citizen».
Тысяча учёных требуют, да. И тут уже можно остановится, и не вспоминать историю взаимоотношений Маска и OpenAI, или тот факт, что сайт, где опубликовано это письмо, принадлежит некоммерческой организации основанной на грант того же самого Маска.
Проблема не в том, что это письмо послужило поводом кому-то ещё раз напомнить то, насколько плохо преподаётся философия в ВУЗах. Нет, мы видим большое количество публикаций, которые позиционируются как экспертные, а тезисы из них перетекают даже в аналитические записки.
И такое происходит постоянно. К примеру, некоторое время назад была волна прогнозов такого же качества относительно микроядерной операционной системы Huawei. Люди часами рассказывали о том, что Гугл вот-вот налетит на поднебесную ось с микроядром. И ведь не так сложно оценить хотя бы примерные объёмы работ, чтобы понять, что такие гигантские проекты не могут проводится бесследно. Перемещение кадров, публикации, код в открытых репо и так далее. Небольшого исследования достаточно, чтобы понять, что никакой микроядерной ОС в обозримом будущем от Huawei не будет и вряд ли можно ожидать чего-то большего чем форк Android. О чем мы и писали ещё в 2019 году. Альтернативные же прогнозы подкреплялись аргументами в стиле «я геополитик, я так вижу». И это ещё полбеды. Беда в том, что все больше людей находят такую аргументацию убедительной.
Такими темпами можно дойти и до карт таро, экстрасенсов и аналитики состоящей на половину из эмоджи. Что ж, подождём. Кто знает, может мы скоро увидим отчёты о влиянии ретроградного меркурия на рынок полупроводников.
BY Content Review
Warning: Undefined variable $i in /var/www/group-telegram/post.php on line 260
But the Ukraine Crisis Media Center's Tsekhanovska points out that communications are often down in zones most affected by the war, making this sort of cross-referencing a luxury many cannot afford. Despite Telegram's origins, its approach to users' security has privacy advocates worried. "He has to start being more proactive and to find a real solution to this situation, not stay in standby without interfering. It's a very irresponsible position from the owner of Telegram," she said. On February 27th, Durov posted that Channels were becoming a source of unverified information and that the company lacks the ability to check on their veracity. He urged users to be mistrustful of the things shared on Channels, and initially threatened to block the feature in the countries involved for the length of the war, saying that he didn’t want Telegram to be used to aggravate conflict or incite ethnic hatred. He did, however, walk back this plan when it became clear that they had also become a vital communications tool for Ukrainian officials and citizens to help coordinate their resistance and evacuations. The regulator said it had received information that messages containing stock tips and other investment advice with respect to selected listed companies are being widely circulated through websites and social media platforms such as Telegram, Facebook, WhatsApp and Instagram.
from hk
