Victor Osyka, техноцивилизация

Marc Andreessen, VC в a16z (фонд на $35 млрд, больше только у Sequoia), web3-максималист + зарождал инет браузером Netscape (куплен AOL за $4 млрд в 1999), на борде Fb, дал интервью #386 на 3 часа “AI спасет мир” Lex Fridman (AI ученый в США из РФ/Украины):

LLM/языковые нейронки
- Все становится диалоговым, пусть мы и просим иногда URL’ы, инет начал с каталогов, потом 20 лет поиск, а AI дает новые пути взаимодействия со знанием, хз будет ли Google через 5-10 лет. Они 15 лет строили графы/выдачу ответов без кликов, а тут нагрянули LLM
- Люди хотят LLM без цензуры, но кто их будет выпускать, хакеры? Новые LLM будут использовать в тч диалоги с ними самими и это вопрос на $1 трлн: улучшат ли synthetic data LLM (тк signal is already there), но есть же океан возможных диалогов, которые не изучить на людях (типа как люди обсуждают учебники экономики в Твиттер, но мы это в 1000x ускорим)
- Глюки LLM? Это когда нам не нра, а когда нра - называем creativity=) Le Cun считает глюки не убрать, а отрасль верит, что засолвят
- Bias’ы? Идея Wikipedia я думал бред, но сработало же в выработке нейтрального тона (тыщи лет люди считали “вот она, истина”, но она же все время “плывет”..)

Золотая лихорадка
- Еще вопросы на трлн’ы $: побьют ли малые модели большие? Будут ли 2-3 god-level модели на весь мир? Идут дебаты оставить ли open source AI законным/regulatory capture от лоббистов. Победят техгиганты или стартапы (да, IBM придумали базы данных, но Oracle построил Larry Ellison; почему GPT сделали OpenAI, а не DeepMind/Гугл)? Битва гигантов (много GPU + sophistiction) vs. пробующие радикальные идеи стартапы - оба подхода дают успехи: и перфекционизм Apple, и incremental lean hackers как стартапы
- Роль фаундеров излишне романтизировали, нервно + крутые фаундеры часто с опытом своей индустрии, или год всесторонне изучали идею

Инет
- В 1989 в универе увидел быстрый инет+суперкомпы Cray = дало инсайты что грядет (а все думали, что ПК, emails - это для nerdy прогеров) и щас 5 млрд людей онлайн. Много вспоминает про Apple I, TCP IP драйвера в Win 3.1, роль JPEG в эпоху модемов, HTML, JavaScript (написан за лето), SSL (шифры были военной технологией) + “autistic” языки программирования
- Браузер = единое окно в мир на ПК, за ним что угодно + развивается во времени. Аппы = на телефонах, но и там соблазн лепить супераппы, как Маск в Twitter или китайцы
- Похоже, мы идем к open source everything, не только AI, тк productivity boost - он ваще, 1000x отдельному кодеру. Software - это современный философский камень

AI спасет мир
- Написал эссе (вот саммари Гершуни): страх AGI - просто мы христиане, ждем Апокалипсис + порождаем культы + саморадикализуемся. Это религиозные, не testable гипотезы. Von Neumann считал надо сразу ударить по СССР ядерной бомбой, ибо 3ья мировая неизбежна. А по факту, ядерное оружие убрало риски 3ей мировой. И даже где у нас и есть прогнозные модели - ну вы помните спектр жутких прогнозов про корону и policy makers избыточно полагались на этих [псевдо]-ученых, 8 млрд людей замоделить..
а
- Intelligence - это сбор, обработка, синтез инфо, и к чему не приложишь - все улучшает (умные люди во всех сферах жизни имеют лучшие outcomes - похоже, это гены, что печаль), но тут на сцене и появляется AI - на благо всех - каждому нарастит IQ
- Generative AI/фэйки? Ставишь другой AI - охранять своего ребенка=)
- Зарегулировать AI сложно, особенно с open source/люди кто делают прорывы есть где угодно/модель GPT уже тренят на мощном ПК итд
- Страхи неравенства от AI = неомарксизм, в реальности automation невероятно увеличил душевой ВВП, секрет всех CEO, что техногиганты хотят продать AI каждому на Земле
- Переучивание из-за новых работ больно, но уже 300 лет так живем, а луддиты были и будут

Китай? Их публичный AI план себе+миру: слежка, social score = 100% авторитаризм + Digital Silk Road

Благотворительность? Ларри Пейдж хочет все $ передать Маску

Книги? Читает про историю, US, политику, Ленина, French revolution, Рим, Грецию

Смысл жизни? Satisfaction/being useful, но я за imbalanced life/крен в productivity

www.group-telegram.com/us/Victor_Osyka.com/457

16.0K viewsedited  Jun 23, 2023 at 05:19

Marc Andreessen, VC в a16z (фонд на $35 млрд, больше только у Sequoia), web3-максималист + зарождал инет браузером Netscape (куплен AOL за $4 млрд в 1999), на борде Fb, дал интервью #386 на 3 часа “AI спасет мир” Lex Fridman (AI ученый в США из РФ/Украины):

LLM/языковые нейронки
- Все становится диалоговым, пусть мы и просим иногда URL’ы, инет начал с каталогов, потом 20 лет поиск, а AI дает новые пути взаимодействия со знанием, хз будет ли Google через 5-10 лет. Они 15 лет строили графы/выдачу ответов без кликов, а тут нагрянули LLM
- Люди хотят LLM без цензуры, но кто их будет выпускать, хакеры? Новые LLM будут использовать в тч диалоги с ними самими и это вопрос на $1 трлн: улучшат ли synthetic data LLM (тк signal is already there), но есть же океан возможных диалогов, которые не изучить на людях (типа как люди обсуждают учебники экономики в Твиттер, но мы это в 1000x ускорим)
- Глюки LLM? Это когда нам не нра, а когда нра - называем creativity=) Le Cun считает глюки не убрать, а отрасль верит, что засолвят
- Bias’ы? Идея Wikipedia я думал бред, но сработало же в выработке нейтрального тона (тыщи лет люди считали “вот она, истина”, но она же все время “плывет”..)

Золотая лихорадка
- Еще вопросы на трлн’ы $: побьют ли малые модели большие? Будут ли 2-3 god-level модели на весь мир? Идут дебаты оставить ли open source AI законным/regulatory capture от лоббистов. Победят техгиганты или стартапы (да, IBM придумали базы данных, но Oracle построил Larry Ellison; почему GPT сделали OpenAI, а не DeepMind/Гугл)? Битва гигантов (много GPU + sophistiction) vs. пробующие радикальные идеи стартапы - оба подхода дают успехи: и перфекционизм Apple, и incremental lean hackers как стартапы
- Роль фаундеров излишне романтизировали, нервно + крутые фаундеры часто с опытом своей индустрии, или год всесторонне изучали идею

Инет
- В 1989 в универе увидел быстрый инет+суперкомпы Cray = дало инсайты что грядет (а все думали, что ПК, emails - это для nerdy прогеров) и щас 5 млрд людей онлайн. Много вспоминает про Apple I, TCP IP драйвера в Win 3.1, роль JPEG в эпоху модемов, HTML, JavaScript (написан за лето), SSL (шифры были военной технологией) + “autistic” языки программирования
- Браузер = единое окно в мир на ПК, за ним что угодно + развивается во времени. Аппы = на телефонах, но и там соблазн лепить супераппы, как Маск в Twitter или китайцы
- Похоже, мы идем к open source everything, не только AI, тк productivity boost - он ваще, 1000x отдельному кодеру. Software - это современный философский камень

AI спасет мир
- Написал эссе (вот саммари Гершуни): страх AGI - просто мы христиане, ждем Апокалипсис + порождаем культы + саморадикализуемся. Это религиозные, не testable гипотезы. Von Neumann считал надо сразу ударить по СССР ядерной бомбой, ибо 3ья мировая неизбежна. А по факту, ядерное оружие убрало риски 3ей мировой. И даже где у нас и есть прогнозные модели - ну вы помните спектр жутких прогнозов про корону и policy makers избыточно полагались на этих [псевдо]-ученых, 8 млрд людей замоделить..
а
- Intelligence - это сбор, обработка, синтез инфо, и к чему не приложишь - все улучшает (умные люди во всех сферах жизни имеют лучшие outcomes - похоже, это гены, что печаль), но тут на сцене и появляется AI - на благо всех - каждому нарастит IQ
- Generative AI/фэйки? Ставишь другой AI - охранять своего ребенка=)
- Зарегулировать AI сложно, особенно с open source/люди кто делают прорывы есть где угодно/модель GPT уже тренят на мощном ПК итд
- Страхи неравенства от AI = неомарксизм, в реальности automation невероятно увеличил душевой ВВП, секрет всех CEO, что техногиганты хотят продать AI каждому на Земле
- Переучивание из-за новых работ больно, но уже 300 лет так живем, а луддиты были и будут

Китай? Их публичный AI план себе+миру: слежка, social score = 100% авторитаризм + Digital Silk Road

Благотворительность? Ларри Пейдж хочет все $ передать Маску

Книги? Читает про историю, US, политику, Ленина, French revolution, Рим, Грецию

Смысл жизни? Satisfaction/being useful, но я за imbalanced life/крен в productivity

BY Victor Osyka, техноцивилизация