Victor Osyka, техноцивилизация

Конспект What We Owe The Future от William MacAskill, книга про longtermism (долгосрочность). Илон Маск твитнул “близко к моей философии”. Простота - кажущаяся: писать помогали 200 экспертов (!) + рожал 2 года. Пачка рисунков раз и два + видео с моими комментами.

I. LONGTERMISM
- Этическая установка, что человечеству нужно теперь не просто заботиться об уровне жизни и неравенстве живущего поколения (исторически господствующая парадигма), а ещё и оптимизироваться под свое сверхдолгосрочное будущее как вида в целом. Плюс это мотиватор снижения existential risks (угроз человечеству как виду - ядерный конфликт, вулкан, взрыв солнца итп)
- Мы должны сейчас думать о всех будущих поколениях: УЖЕ пожили 100 млрд чел, живут СЕЙЧАС меньше 10 млрд, а общее число людей, кто МОГУТ еще родиться на Земле - 5*10^16 людей (если она будет обитаема еще 500 млн лет пока солнце не станет слишком ярким)
- Кейсы думания вдолгую: римские поэмы, конституция/отцы основатели США (Франклин вложил в 1790г в Бостон и Филадельфию $0.14 млн, за 200 лет выплаты траста составили $7 млн), межстрановая комиссия по климату (IPCC) etc.
- Будущее никто не знает, так что мы должны просто как в покере - делать ставки исходя из известной нам на данный момент научной инфо и апгрейдиться по мере поступления новой инфо
- Критерии для оценки наших инициатив: significance (вэлью), persistence (сколько будет длиться эффект события, пример: исчезновение глиптодонтов останется до конца вселенной), contingency (зависимость всех последствий буквально от нескольких конкретных действий).
- Паттерн: новое пластично и траектории можно менять, а далее все ригидно: Новый Завет, конституция США, появление ядерных вооружений, итп. Про потепление расчеты были в 1958, прогноз реализовался. А могли ещё в 1990ом запрайсить углеродный след, и были бы уже на другой траектории. Сейчас так же поверхностно относятся к advanced AI, synthetic biology, напряжению между США и Китаем
- Бизнесы некоторых longtermist’ов оч. успешны

II. СМЕНА ТРАЕКТОРИЙ
- Аболиционизм: пример как сложно шел отказ от рабства (даже Платон и Кант не были против), зато каковы последствия: свобода, права женщин, запрет телесных наказаний, комфорт сотням млн мигрантов, развитие LGBT итд. -> мы должны влиять на ценности будущих поколений. Небольшое число мыслителей (квакеры) раскручивали маховик (150 лет) и потом тысячи людей влияли на policy makers UK и Франции чтобы рабство стало unacceptable.
- Культурные нормы конкурируют друг с другом как в процессе эволюции. При этом сотни лет может быть двойственная мораль (мы не обижаем собак, но убиваем миллиарды кур) или value lock-in (нацизм, сталинизм, Библия уже 2000 лет самая продаваемая книга итп). Но быстрое развитие технологий начинает влиять на моральные нормы (AGI, gpt-3, alpha-fold). Мы нуждаемся в мире экспериментирующем с моралью, diversity идей + tolerant societies (LGBTQ итп - это просто для поддержания общего высокого разнообразия человечества в целом, как принцип, а не потому что правильно или нет) + глобализованный мир (“вавилонизация”). (далее оч много про AGI и известные опасения Ника Бострома про superintelligence + методы прогнозирования будущего (“все ошибаются”).
- Демография порождает будущие superpowers: в Индии 120 лет назад было 300 млн чел вместо 1.4 млрд сегодня, в Нигерии к 2100 будет 700 млн чел вместо 200 млн щас

III. СПАСЕНИЕ ЦИВИЛИЗАЦИИ
- Есть риски типа метеоритов могущих уничтожить Землю (вероятность 1/15-миллиардная в год) до редактированных вирусов «смертельный как Эбола, заразный как корь» (корона убила 17 млн чел - каждый 500ый в мире, а также были много утечек биооружия в СССР и Англии) и войн сверхдержав (США-Китай)/исчезновения империй (как Рим)
- Восстановление цивилизации требует удачи оказаться в Новой Зеландии (меньше пострадает от потопов, ядерной зимы, вирусов) + быть не аграрием (как 2 млрд чел на Земле), а ученым или инженером

(2-ая часть конспекта)

www.group-telegram.com/id/Victor_Osyka.com/403

6.2K viewsedited  Sep 5, 2022 at 07:34

Конспект What We Owe The Future от William MacAskill, книга про longtermism (долгосрочность). Илон Маск твитнул “близко к моей философии”. Простота - кажущаяся: писать помогали 200 экспертов (!) + рожал 2 года. Пачка рисунков раз и два + видео с моими комментами.

I. LONGTERMISM
- Этическая установка, что человечеству нужно теперь не просто заботиться об уровне жизни и неравенстве живущего поколения (исторически господствующая парадигма), а ещё и оптимизироваться под свое сверхдолгосрочное будущее как вида в целом. Плюс это мотиватор снижения existential risks (угроз человечеству как виду - ядерный конфликт, вулкан, взрыв солнца итп)
- Мы должны сейчас думать о всех будущих поколениях: УЖЕ пожили 100 млрд чел, живут СЕЙЧАС меньше 10 млрд, а общее число людей, кто МОГУТ еще родиться на Земле - 5*10^16 людей (если она будет обитаема еще 500 млн лет пока солнце не станет слишком ярким)
- Кейсы думания вдолгую: римские поэмы, конституция/отцы основатели США (Франклин вложил в 1790г в Бостон и Филадельфию $0.14 млн, за 200 лет выплаты траста составили $7 млн), межстрановая комиссия по климату (IPCC) etc.
- Будущее никто не знает, так что мы должны просто как в покере - делать ставки исходя из известной нам на данный момент научной инфо и апгрейдиться по мере поступления новой инфо
- Критерии для оценки наших инициатив: significance (вэлью), persistence (сколько будет длиться эффект события, пример: исчезновение глиптодонтов останется до конца вселенной), contingency (зависимость всех последствий буквально от нескольких конкретных действий).
- Паттерн: новое пластично и траектории можно менять, а далее все ригидно: Новый Завет, конституция США, появление ядерных вооружений, итп. Про потепление расчеты были в 1958, прогноз реализовался. А могли ещё в 1990ом запрайсить углеродный след, и были бы уже на другой траектории. Сейчас так же поверхностно относятся к advanced AI, synthetic biology, напряжению между США и Китаем
- Бизнесы некоторых longtermist’ов оч. успешны

II. СМЕНА ТРАЕКТОРИЙ
- Аболиционизм: пример как сложно шел отказ от рабства (даже Платон и Кант не были против), зато каковы последствия: свобода, права женщин, запрет телесных наказаний, комфорт сотням млн мигрантов, развитие LGBT итд. -> мы должны влиять на ценности будущих поколений. Небольшое число мыслителей (квакеры) раскручивали маховик (150 лет) и потом тысячи людей влияли на policy makers UK и Франции чтобы рабство стало unacceptable.
- Культурные нормы конкурируют друг с другом как в процессе эволюции. При этом сотни лет может быть двойственная мораль (мы не обижаем собак, но убиваем миллиарды кур) или value lock-in (нацизм, сталинизм, Библия уже 2000 лет самая продаваемая книга итп). Но быстрое развитие технологий начинает влиять на моральные нормы (AGI, gpt-3, alpha-fold). Мы нуждаемся в мире экспериментирующем с моралью, diversity идей + tolerant societies (LGBTQ итп - это просто для поддержания общего высокого разнообразия человечества в целом, как принцип, а не потому что правильно или нет) + глобализованный мир (“вавилонизация”). (далее оч много про AGI и известные опасения Ника Бострома про superintelligence + методы прогнозирования будущего (“все ошибаются”).
- Демография порождает будущие superpowers: в Индии 120 лет назад было 300 млн чел вместо 1.4 млрд сегодня, в Нигерии к 2100 будет 700 млн чел вместо 200 млн щас

III. СПАСЕНИЕ ЦИВИЛИЗАЦИИ
- Есть риски типа метеоритов могущих уничтожить Землю (вероятность 1/15-миллиардная в год) до редактированных вирусов «смертельный как Эбола, заразный как корь» (корона убила 17 млн чел - каждый 500ый в мире, а также были много утечек биооружия в СССР и Англии) и войн сверхдержав (США-Китай)/исчезновения империй (как Рим)
- Восстановление цивилизации требует удачи оказаться в Новой Зеландии (меньше пострадает от потопов, ядерной зимы, вирусов) + быть не аграрием (как 2 млрд чел на Земле), а ученым или инженером

(2-ая часть конспекта)

BY Victor Osyka, техноцивилизация