group-telegram.com/Victor_Osyka/537
Last Update:
В инетах обсуждают опус от Dario Amodei (фаундер Anthropic/Claude LLM) где он акселерационирует фантазирует идеальную для него модель мира:
- За 5-10 лет в биологии будет прогресс как за весь XX-ый век (метрик, естественно, не дает). Жизнь продлят до 150 лет
- Все ментальные заболевания вылечат
- Отбирание работы AI приведет к (!) дефляции на Западе, а неразвитые пусть варятся в своей коррупции
- Люди найдут новые смыслы в хобби (лично он любит гамать) и социализации
- AI вернет нам т.н. “конец истории" (гипотеза в 1992г от Фукуямы, что либеральная демократия - конечная точка эволюции)
- Но при этом демократиям надо объединиться в клуб и кто войдет - с теми пошерим AI, а кто не войдет - не пошерим. И этот клуб должен не дать плохим другим странам получить фронтир AI в military + обрубить им supply chain для чипов (“effective altruist’ов узнаю по их коммунистическим замашкам”)
Dario похож на других людей из отрасли:
- Mustafa Suleyman из Deepmind год назад писал книгу в схожем ключе
- Курцвейл в августе книгу выпустил, но, к сожалению, ничего нового не добавил =(
- Altman недавно вообще убил грандиозностью в посту: "будущее настолько ярко, что о нем даже нельзя пытаться судить"
Это все, конечно же, чисто психологическое помешательство явление. Amodei физик? Ну ОК, когда открыли ядерное оружие, было то же самое:
1. Механика восприятия момента
У людей после Manhattan project, 1945ый год и далее тоже было ощущение (ложное, ядерной физикой занимались с конца XIX в.), словно это появились вот буквально за несколько лет создания ядерной бомбы. Ничего не напоминает? =) Перцептрон открыли аж в 1943-ем, про backpropagation в многослойных сетках/deep learning Хинтон в 1986-ом написал итд
2. Супероптимизм
- Стали этот момент экстраполировать на ускоренное будущее. E.g.: Fermi, Szilard, Weinberg, Teller, Wigner - что вскоре нас ждет abundance/изобилие всего и вся энергии для человечества, и причем экологически чистой (ничего не напоминает? =)
а
- По факту АЭС сейчас дают всего 10% от электричества и жалкие 2% от общего энергопотребления. А уже как бы 80 лет прошло...
3. Полярность прогнозов: от супер оптимизма и эры изобилия и до, одновременно, апокалипсиса и риска уничтожения цивилизации
Szilard в 1950ом: "достаточно большой AGI термоядерный заряд может аннигилировать человечество". Дежавю, конечно 🙈
4. И физики про биологию фантазировали примерно всегда:
- Оппенгеймер (умер в 1967) считал, что открытие ДНК позволит людям продлить жизнь. Ждем
- Ферми (умер в 1954) считал, что научимся влиять на жизнь на уровне отдельных атомов и молекул (но оказалось, что жизнь идет на более вышестоящем биологическом субстрате: с геномом, рецепторами, сигнальными функциями клеток итп)
- Теллер говорил, что genetic engineering не только вылечит людей, но и позволит апгрейдить их способности
- А отец кибернетики Винер (умер в 1964) считал, что биопроцессы похожи циклами обратной связи на софт и можно их замоделировать/управлять. По факту, фарма пока точечно лечит отдельные болезни, а паззл longevity пока не поддается =( - это же не механистичный код от программистов, а эмерджентная штука для выращивания Вселенной сложности
--> Экстремальные спекуляции создателей атомных технологий оказались неверны на обе стороны спектра
***Кровь из глаз И еще есть более универсальная закономерность, что люди из естественных наук и айти стабильно слон в посудной лавке гротескны в своих рассуждениях про общество [систем из множества агентов со своей активностью]. И отказывают им и целым странам в их собственной воле. E.g. У Китая, древнейшей (5 тыс лет) цивилизации, собственные амбиции - Kai-Fu Lee еще 6 лет назад выпустил книгу AI Superpowers: China, Silicon Valley & new world order (я не постил саммари, а может и надо =) итп
Ой ладно, что еще ожидать от человека я пророк Дарио, несу откровение, отключившего комменты у себя в твиттере?.. =)
BY Victor Osyka, техноцивилизация
Share with your friend now:
group-telegram.com/Victor_Osyka/537