Victor Osyka, техноцивилизация

progresspunks #5 - взял интервью на 1 час (Youtube) у Алексея Турчина, футуролога и трансгуманиста (его ТГ канал Бессмертие или глобальная катастрофа? + FB), оч. концептуально:

прогресс/наука
- развивается по спирали в сфере где сконцентрированы усилия, потом в другой (сейчас это AI, раньше были компы, ядерная физика, ракеты за 20 лет сделали от Фау-2 до Луны, пассажирская авиация итп)
- военные слишком лоббируют, оборонный бюджет США $700 млрд в год, а научный в 15 раз меньше
- расходы нужны больше на тулзы, нежели ЗП - без экспериментов наука буксует, надо коллайдеры итп
- в науке скорее всего убывающая отдача от вложенных ресурсов, поэтому можно, конечно, построить коллайдер за десятки млрд $, но на энергиях на земле новые частицы все равно не откроешь
- ускорять можно, оптимизируя методы оптимизации науки. сейчас все тащат нейронки - куда ни приложишь, всюду дает отдачу
а
- эволюция в биологии же точно так же развивалась - происходила эволюция эволюции ведущая к победе более быстрых методов оптимизации

AI
- дальше (5-10 лет) агенты появятся, как домашний робот от Tesla - понимать задания и выполнять их, используя модель мира на нейронках
- взрыв за посл 10 лет, в тч большая отдача на объем используемых данных + AI где не применят - всюду вэлью приносит - значит, что-то универсальное нащупали
- мы не знаем, есть ли сознание в GPT3

сознание
- в одно слово слишком много кладут, определение Чалмерса что это субъективный опыт (qualia) - слишком узкое, а ему важны еще две вещи: 1 - access (что mental state может или рацио действия порождать, или слова, или быть базой для дальнейших рассуждений) и 2 - phenomenal (experiential properties которые сложно описать “красный цвет”, “звонок колокольчика” итп), тут круто описано
- а иначе мы бы с тобой беседовали в телах, скажем, лягушек. все же сознание людей отличается от животных, пусть у них всех и есть qualia

продление жизни
- в наших телах на десятки сотни лет продлить жизнь можно, для этого нужны системы с AI которые кастомно делают интервенции. имунная система же наша умеет все делать - понимать что с клетками внутри организма, разбираться со вторжениями
- вдолгую продление чисто цифровое будет, загрузка. биосетап - просто итог эволюции на Земле, а на компе можно существовать пока будет Вселенная
- в цифровом виде мы все равно будем в той или иной виртуальной реальности, у нас останется телесность, удовольствие от еды итп - мы от этого не откажемся. смыслы жизни - выживать (чтобы наш комп не исчез) + изучать мир дальше - объективный мир же никуда не денется после нашей загрузки

читает:
- LessWrong блог/форум ученого в AI Эилиезера Юдковского про рацио мышление, сознание, философию, AI
- Tegmark и всяких altruists в twitter
- оч рекомендует несколько статей квантового физика Markus Muller про Law without law: from observer states to physics via algorithmic information theory (Витя: пока не читал, из абстракта я так понял, что наблюдатель порождает мир своим наблюдением, а не просто мир объективно существует сам по себе, квантовая физика короче, но он rigoruously это показывает и разбирает)

/

прошлые интервью: 1, 2, 3, 4

www.group-telegram.com/ye/Victor_Osyka.com/394

4.2K viewsedited  Jul 20, 2022 at 16:17

progresspunks #5 - взял интервью на 1 час (Youtube) у Алексея Турчина, футуролога и трансгуманиста (его ТГ канал Бессмертие или глобальная катастрофа? + FB), оч. концептуально:

прогресс/наука
- развивается по спирали в сфере где сконцентрированы усилия, потом в другой (сейчас это AI, раньше были компы, ядерная физика, ракеты за 20 лет сделали от Фау-2 до Луны, пассажирская авиация итп)
- военные слишком лоббируют, оборонный бюджет США $700 млрд в год, а научный в 15 раз меньше
- расходы нужны больше на тулзы, нежели ЗП - без экспериментов наука буксует, надо коллайдеры итп
- в науке скорее всего убывающая отдача от вложенных ресурсов, поэтому можно, конечно, построить коллайдер за десятки млрд $, но на энергиях на земле новые частицы все равно не откроешь
- ускорять можно, оптимизируя методы оптимизации науки. сейчас все тащат нейронки - куда ни приложишь, всюду дает отдачу
а
- эволюция в биологии же точно так же развивалась - происходила эволюция эволюции ведущая к победе более быстрых методов оптимизации

AI
- дальше (5-10 лет) агенты появятся, как домашний робот от Tesla - понимать задания и выполнять их, используя модель мира на нейронках
- взрыв за посл 10 лет, в тч большая отдача на объем используемых данных + AI где не применят - всюду вэлью приносит - значит, что-то универсальное нащупали
- мы не знаем, есть ли сознание в GPT3

сознание
- в одно слово слишком много кладут, определение Чалмерса что это субъективный опыт (qualia) - слишком узкое, а ему важны еще две вещи: 1 - access (что mental state может или рацио действия порождать, или слова, или быть базой для дальнейших рассуждений) и 2 - phenomenal (experiential properties которые сложно описать “красный цвет”, “звонок колокольчика” итп), тут круто описано
- а иначе мы бы с тобой беседовали в телах, скажем, лягушек. все же сознание людей отличается от животных, пусть у них всех и есть qualia

продление жизни
- в наших телах на десятки сотни лет продлить жизнь можно, для этого нужны системы с AI которые кастомно делают интервенции. имунная система же наша умеет все делать - понимать что с клетками внутри организма, разбираться со вторжениями
- вдолгую продление чисто цифровое будет, загрузка. биосетап - просто итог эволюции на Земле, а на компе можно существовать пока будет Вселенная
- в цифровом виде мы все равно будем в той или иной виртуальной реальности, у нас останется телесность, удовольствие от еды итп - мы от этого не откажемся. смыслы жизни - выживать (чтобы наш комп не исчез) + изучать мир дальше - объективный мир же никуда не денется после нашей загрузки

читает:
- LessWrong блог/форум ученого в AI Эилиезера Юдковского про рацио мышление, сознание, философию, AI
- Tegmark и всяких altruists в twitter
- оч рекомендует несколько статей квантового физика Markus Muller про Law without law: from observer states to physics via algorithmic information theory (Витя: пока не читал, из абстракта я так понял, что наблюдатель порождает мир своим наблюдением, а не просто мир объективно существует сам по себе, квантовая физика короче, но он rigoruously это показывает и разбирает)

/

прошлые интервью: 1, 2, 3, 4

BY Victor Osyka, техноцивилизация