Progresspunks

2-ая часть книги Харари Nexus: сети информации от Stone Age до AI (1-ая часть конспекта тут):

Ч.II: Неживые сети/компы (а не люди)

Intelligence и сознание
- Не путаем: 1-ое = достигать цели, 2-ое = способность к субъективным ощущениям (у животных просто рядом оказались и все). Мы пока не знаем как у нас сознание вспыхивает, так что на компы я бы пока не экстраполировал. А если вспыхнет - чувства это же чисто биология
- В 1950ые мир не видел в компах что-то больше калькуляторов, однако вскоре язык был освоен, а демократия - это язык

Алгоритмы
- Алгоритмы в XX в. стали торговать на рынках, в 2000ые вместо СМИ стали посредниками инфы, а сейчас и контент генерят. Соцсети долго валили все на государства “мы просто платформа, пусть люди решают”, но у сетей же прямой доступ к эмоциям людей
- Название книги nexus - “узел в сети”. Алгоритмы нас мониторят, советуют, вдохновляют, наказывают (хотя да, люди с древних времен привыкали). С 2014 US юзают Skynet - анализ сотовых метаданных выявлять террористов, другие страны тоже стали
- Конечно, бюрократии компы дают много пользы, но у меня фокус на рисках. Вообразите, что даст диктаторам BCI типа Neuralink?
- Мы, кстати, уже в post-privacy era: в мире 1 млрд уличных камер + у 140 стран сбор биометрии. В Китае в 13 лет камеры нашли девочку, проданную в рабство в 3 года. В Иране смс-штрафы женщинам без хиджаба. Еще сайты с отзывами по факту - peer-to-peer surveillance.
- Молчу про китайскую social score system (в EU вроде в AI Act хотели запретить такие штуки как дискриминационные)

Ошибки алгоритмов
- Алгоритмы Youtube виралили фэйки и занижали их критику, QAnon набрали 4 млн фолловеров итп. Соцсети все валят на природу людей и “это не нарушает правила". Какой уж тут AI alignment, если алгоритмы уже чудят
- Даже если не вникать в онтологические пределы философии утилитаризма, что любое движение к ultimate goal можно оценить цифрами, есть еще проблема что компьютерные агенты между собой могут порождать собственную мифологию/inter-computer realities
- У алгоритмов всегда есть biases, тк данные собирают люди, и генерят их люди. А мы антропоморфизируем компьютеры как когда-то богов - т.е. считаем, что компы не ошибаются, см оригинальную философию God, human, animal, machine

Ч.III: Компьютеры и политика
- Как общества (и демократии, и тоталитаризм) в будущем могут реагировать на сети [неживых] агентов? Как поменяется баланс власти?
- Промышленная революция за 100 лет показала, кто колониальные империи на их основе не эффективны

- Идет некий суицид консерватизма (хотя НЕ консервативный Трамп превратил республиканскую партию в революционную)

- Компы - это новый тип бюрократии. В демократиях есть правильные принципы, которые могут помочь:
1) benevolence/доброжелательности
2) децентрализация
3) взаимность (слежка и за властями/корпорациями тоже)
- Резкие скачки безработицы из-за AI и роботизации могут обратить демократии в тоталитаризм (как 25% в 1932 в Германии). Вдруг AI окажется креативным, а также заменит работы, где сейчас нужен emotional intelligence?

- AI - это иная intelligence, как (якобы ошибочный) ход #37 в матче AlphaGo с Lee Sedol, см книгу Мустафы Сулеймана
- До покупки Маском Твиттера там 5% ботов делали 28% комментов. Я считаю, демократии должны регулировать рынки информации, чтобы не было digital bots anarchy

- Тоталитарные страны могут максимально опереться на AI. В тч закрыться (как Китай) от зарубежных tech платформ (противостоят т.н. data colonialism и растят свои экосистемы)
- Холодная война XX века перетекла в современную cyber war

Заключение
- Из изучения истории видно, что изобретение новых информационных технологий (от письма, печати и до телеграфа и компов) каждый раз было катализатором больших исторических изменений
- AI поменяет мир в политическом плане, просто пока непонятно куда. Я попытался порассуждать о возможных векторах влияния на общества, и демократии, и тоталитарные

Upd:

И, еще: в US в конце 10 лет войны во Вьетнаме тоже была супер-поляризация общества, так что происходящее сейчас и не ужас-ужас, а особенность true democracy в кризисы

www.group-telegram.com/ua/progresspunk.com/1455

1.5K viewsedited  Oct 1, 2024 at 07:36

2-ая часть книги Харари Nexus: сети информации от Stone Age до AI (1-ая часть конспекта тут):

Ч.II: Неживые сети/компы (а не люди)

Intelligence и сознание
- Не путаем: 1-ое = достигать цели, 2-ое = способность к субъективным ощущениям (у животных просто рядом оказались и все). Мы пока не знаем как у нас сознание вспыхивает, так что на компы я бы пока не экстраполировал. А если вспыхнет - чувства это же чисто биология
- В 1950ые мир не видел в компах что-то больше калькуляторов, однако вскоре язык был освоен, а демократия - это язык

Алгоритмы
- Алгоритмы в XX в. стали торговать на рынках, в 2000ые вместо СМИ стали посредниками инфы, а сейчас и контент генерят. Соцсети долго валили все на государства “мы просто платформа, пусть люди решают”, но у сетей же прямой доступ к эмоциям людей
- Название книги nexus - “узел в сети”. Алгоритмы нас мониторят, советуют, вдохновляют, наказывают (хотя да, люди с древних времен привыкали). С 2014 US юзают Skynet - анализ сотовых метаданных выявлять террористов, другие страны тоже стали
- Конечно, бюрократии компы дают много пользы, но у меня фокус на рисках. Вообразите, что даст диктаторам BCI типа Neuralink?
- Мы, кстати, уже в post-privacy era: в мире 1 млрд уличных камер + у 140 стран сбор биометрии. В Китае в 13 лет камеры нашли девочку, проданную в рабство в 3 года. В Иране смс-штрафы женщинам без хиджаба. Еще сайты с отзывами по факту - peer-to-peer surveillance.
- Молчу про китайскую social score system (в EU вроде в AI Act хотели запретить такие штуки как дискриминационные)

Ошибки алгоритмов
- Алгоритмы Youtube виралили фэйки и занижали их критику, QAnon набрали 4 млн фолловеров итп. Соцсети все валят на природу людей и “это не нарушает правила". Какой уж тут AI alignment, если алгоритмы уже чудят
- Даже если не вникать в онтологические пределы философии утилитаризма, что любое движение к ultimate goal можно оценить цифрами, есть еще проблема что компьютерные агенты между собой могут порождать собственную мифологию/inter-computer realities
- У алгоритмов всегда есть biases, тк данные собирают люди, и генерят их люди. А мы антропоморфизируем компьютеры как когда-то богов - т.е. считаем, что компы не ошибаются, см оригинальную философию God, human, animal, machine

Ч.III: Компьютеры и политика
- Как общества (и демократии, и тоталитаризм) в будущем могут реагировать на сети [неживых] агентов? Как поменяется баланс власти?
- Промышленная революция за 100 лет показала, кто колониальные империи на их основе не эффективны

- Идет некий суицид консерватизма (хотя НЕ консервативный Трамп превратил республиканскую партию в революционную)

- Компы - это новый тип бюрократии. В демократиях есть правильные принципы, которые могут помочь:
1) benevolence/доброжелательности
2) децентрализация
3) взаимность (слежка и за властями/корпорациями тоже)
- Резкие скачки безработицы из-за AI и роботизации могут обратить демократии в тоталитаризм (как 25% в 1932 в Германии). Вдруг AI окажется креативным, а также заменит работы, где сейчас нужен emotional intelligence?

- AI - это иная intelligence, как (якобы ошибочный) ход #37 в матче AlphaGo с Lee Sedol, см книгу Мустафы Сулеймана
- До покупки Маском Твиттера там 5% ботов делали 28% комментов. Я считаю, демократии должны регулировать рынки информации, чтобы не было digital bots anarchy

- Тоталитарные страны могут максимально опереться на AI. В тч закрыться (как Китай) от зарубежных tech платформ (противостоят т.н. data colonialism и растят свои экосистемы)
- Холодная война XX века перетекла в современную cyber war

Заключение
- Из изучения истории видно, что изобретение новых информационных технологий (от письма, печати и до телеграфа и компов) каждый раз было катализатором больших исторических изменений
- AI поменяет мир в политическом плане, просто пока непонятно куда. Я попытался порассуждать о возможных векторах влияния на общества, и демократии, и тоталитарные

Upd:

И, еще: в US в конце 10 лет войны во Вьетнаме тоже была супер-поляризация общества, так что происходящее сейчас и не ужас-ужас, а особенность true democracy в кризисы

BY Progresspunks