Victor Osyka, техноцивилизация

У Курцвейла новая книга Singularity is nearer: when we merge with AI. Прошлая аж в 2005 - что экспоненциальное развитие компьютеров + биологии + нанотеха сойдутся в непредсказуемое будущее. Приход singularity (это просто метафора из математики) ожидал к 2045 году

Рэй как всегда позитив, оптимизм, никаких концов света: от истории Вселенной и к убыстряющемуся прогрессу - e/acc батя в хате =)

Глава 1 - Где мы из 6 эпох?
- Эпохи [ускорения времени]: космос/химия > появление жизни/ДНК (4 млрд лет назад) > мозг (0.5 млрд лет) > технологии > BCI (brain-computer interface) > экспансия intelligence по Вселенной
- Раньше думал тест Тьюринга засолвят к 2029, но а может и уже? )

Гл.2 Переизобретая intelligence
- Работал с Marvin Minsky - полвека был популярен rules-based подход/формализация в коде, а для сonnectionism / перцептронов (1946) / нейронок не хватало compute (ну как ДаВинчи: изобрел вертолет, но создали спустя 500 лет)
- Неокортекс (появился 200 млн лет назад) умеет себя перепрошивать + параллелизация (у детей удаляли пол-мозга - и ничего) + рост абстракций от органов чувств к сознанию. И deep learning все это воспроизводит, e.g. как нейронки солвили шахматы, Го, LLM, мультимодальность. Закон Мура работает с 1888г, в мире в триллионы раз быстрее compute, чем полвека лет назад, и чудеса технологий продолжатся, в тч по мере изучения мозга + прогресса в BCI

3. Кто я?
- Сознание пока не определили, ему симпатично что это субъективно проживаемый опыт с qualia. Chalmers называл панпротопсихизмом желание считать сознание главной силой во Вселенной (см панпсихизм). Рэй пофантазировал 10 лет назад в книге How to create a mind
- Как из клеточных автоматов и детерминизма появляется свобода воли - хз. Может, это просто [если мир детерминирован] наша не способность самим себе предсказать, а как мы поступим в будущем?
- Крч, просто радуемся, что наши сознания вспыхнули. И причем в крайне маловероятной версии нашей вселенной, см. книгу Road to reality от Penrose (нобелевка с Хокингом)
- Я - это self-modifying information pattern )

4. Экспоненты
- Соцопросы показывают, что у людей бездна мифов про как там наш мир живет. А ведь за 20 лет в мире крайняя бедность упала на 50%. Преступность, суициды, часы работы - десятки лет снижаются
- Грамотность, образование, время учебы, проникновение технологий, продолжительность жизни, доходы, число демократий (тут вопросики) - растут
- Зеленая энергетика - дешевеет (солнечные панели, батареи, ветер итп) - замещение ископаемых топлив возможно как никогда

5. Работа
- 100 лет назад 50% людей в США были фермеры, сейчас 2%. На заводах 25% людей работали, сейчас 7%. Итп. С AI революцией будет похоже на все эти прошлые волны технологий. Автоматизация наше все )
- Строит график из ряда источников, что сейчас 50% госрасходов США - это social safety net (пенсии, пособия, еда в школах), а в 1960г 20%, в 1900 5%. По $20к/чел в год. Отсюда идеи UBI растут?

6. Ближайшие 30 лет медицины
- С AI у врачей диагностика станет ващее + генные терапии + AI разработка лекарств + 3D печать органов
- Нанороботы доберутся до медицины и позволят засолвить проблему, что у наших ДНК/старения нет единого сервера управления + что-то заменят (e.g. искусственная кровь)
- Это повлияет на longevity: в 2050ом 100-летним продлят жизнь на 50 лет (ему 76, он как этот мем? =)

7. Риски
- У мира есть опыт сперва наклепать 65 тыс ядерных боеголовок к 1986г, но потом снизить до 12 тыс
- Биотех: основной риск что вирусы же самореплицируются, но корона показала, что можно быстро секвенировать (неделя. А когда-то 30 лет геном ВИЧ ждали) и резко выкатить мРНК вакцины от Moderna
- Нанороботам, видимо, нужна будет планетарная "имунная" система из "хороших" наноботов - чтобы плохие люди не начудили
- AI: про alignment problem начали рисеч, хз. Военные не откажутся от автономных вооружений, но из DARPA же в итоге вышел весь инет..

8. Кассандра?
- Могут быть violence issues от потерявших работу (а точнее смыслы)
- Лет через 10 BCI дадут связь с компами в 1000x быстрее клавиатур
- Сознание людей не исчезнет от AGI, а будет им усилено

www.group-telegram.com/ms/Victor_Osyka.com/526

8.8K viewsedited  Aug 27, 2024 at 08:46

У Курцвейла новая книга Singularity is nearer: when we merge with AI. Прошлая аж в 2005 - что экспоненциальное развитие компьютеров + биологии + нанотеха сойдутся в непредсказуемое будущее. Приход singularity (это просто метафора из математики) ожидал к 2045 году

Рэй как всегда позитив, оптимизм, никаких концов света: от истории Вселенной и к убыстряющемуся прогрессу - e/acc батя в хате =)

Глава 1 - Где мы из 6 эпох?
- Эпохи [ускорения времени]: космос/химия > появление жизни/ДНК (4 млрд лет назад) > мозг (0.5 млрд лет) > технологии > BCI (brain-computer interface) > экспансия intelligence по Вселенной
- Раньше думал тест Тьюринга засолвят к 2029, но а может и уже? )

Гл.2 Переизобретая intelligence
- Работал с Marvin Minsky - полвека был популярен rules-based подход/формализация в коде, а для сonnectionism / перцептронов (1946) / нейронок не хватало compute (ну как ДаВинчи: изобрел вертолет, но создали спустя 500 лет)
- Неокортекс (появился 200 млн лет назад) умеет себя перепрошивать + параллелизация (у детей удаляли пол-мозга - и ничего) + рост абстракций от органов чувств к сознанию. И deep learning все это воспроизводит, e.g. как нейронки солвили шахматы, Го, LLM, мультимодальность. Закон Мура работает с 1888г, в мире в триллионы раз быстрее compute, чем полвека лет назад, и чудеса технологий продолжатся, в тч по мере изучения мозга + прогресса в BCI

3. Кто я?
- Сознание пока не определили, ему симпатично что это субъективно проживаемый опыт с qualia. Chalmers называл панпротопсихизмом желание считать сознание главной силой во Вселенной (см панпсихизм). Рэй пофантазировал 10 лет назад в книге How to create a mind
- Как из клеточных автоматов и детерминизма появляется свобода воли - хз. Может, это просто [если мир детерминирован] наша не способность самим себе предсказать, а как мы поступим в будущем?
- Крч, просто радуемся, что наши сознания вспыхнули. И причем в крайне маловероятной версии нашей вселенной, см. книгу Road to reality от Penrose (нобелевка с Хокингом)
- Я - это self-modifying information pattern )

4. Экспоненты
- Соцопросы показывают, что у людей бездна мифов про как там наш мир живет. А ведь за 20 лет в мире крайняя бедность упала на 50%. Преступность, суициды, часы работы - десятки лет снижаются
- Грамотность, образование, время учебы, проникновение технологий, продолжительность жизни, доходы, число демократий (тут вопросики) - растут
- Зеленая энергетика - дешевеет (солнечные панели, батареи, ветер итп) - замещение ископаемых топлив возможно как никогда

5. Работа
- 100 лет назад 50% людей в США были фермеры, сейчас 2%. На заводах 25% людей работали, сейчас 7%. Итп. С AI революцией будет похоже на все эти прошлые волны технологий. Автоматизация наше все )
- Строит график из ряда источников, что сейчас 50% госрасходов США - это social safety net (пенсии, пособия, еда в школах), а в 1960г 20%, в 1900 5%. По $20к/чел в год. Отсюда идеи UBI растут?

6. Ближайшие 30 лет медицины
- С AI у врачей диагностика станет ващее + генные терапии + AI разработка лекарств + 3D печать органов
- Нанороботы доберутся до медицины и позволят засолвить проблему, что у наших ДНК/старения нет единого сервера управления + что-то заменят (e.g. искусственная кровь)
- Это повлияет на longevity: в 2050ом 100-летним продлят жизнь на 50 лет (ему 76, он как этот мем? =)

7. Риски
- У мира есть опыт сперва наклепать 65 тыс ядерных боеголовок к 1986г, но потом снизить до 12 тыс
- Биотех: основной риск что вирусы же самореплицируются, но корона показала, что можно быстро секвенировать (неделя. А когда-то 30 лет геном ВИЧ ждали) и резко выкатить мРНК вакцины от Moderna
- Нанороботам, видимо, нужна будет планетарная "имунная" система из "хороших" наноботов - чтобы плохие люди не начудили
- AI: про alignment problem начали рисеч, хз. Военные не откажутся от автономных вооружений, но из DARPA же в итоге вышел весь инет..

8. Кассандра?
- Могут быть violence issues от потерявших работу (а точнее смыслы)
- Лет через 10 BCI дадут связь с компами в 1000x быстрее клавиатур
- Сознание людей не исчезнет от AGI, а будет им усилено

BY Victor Osyka, техноцивилизация