Victor Osyka, техноцивилизация

Вышла книга Superagency: what could go right with AI future от Reid Hoffman, фаундера Linkedin и InflectionAI с Suleyman/Deepmind, донора OpenAI с 2015 и HAI в Stanford. Не утопист как Bostrom или Курцвейл, но оптимист:

Интро
- В 60ые Конгресс обсуждал риски мэйнфреймов. Самые полезные tech часто казались анти-human
- Блочить AI - блажь, мир все равно запилит. Надо проактивнее строить желаемое будущее миллиардам людей
- Я идеалист. И AI имитирует нас, он не мы

Глава 1. Люди в чате
- Захват внимания удался FB и Google, а блокчейн и метаверс еще нет, а вот chatGPT это прямо рекорд
- Страхи AI сводятся к потере людьми агентности. Наоборот: люди получат ее больше за счет synthetic intelligence, как с 1800ых нам помогла synthetic (НЕ био) энергия итп
- На сдвиги tech можно смотреть по всякому, e.g. что промышленная революция убила экологию, детский труд, в городах тесно итп. Но и прочее улучшилось, в тч свободы
- Есть: doomers (“нам конец”), gloomers (критичны: "AI просто value extraction"), zoomers (рады) и bloomers (супер-оптимисты)

2. Большое знание
- На Западе не реализовались страхи 1984 о big brother/гос-ве, но у бигтехов много данных. Но это создает ведь и оч много блага всем. Мир/страны стоят на потоках инфо и ее растущих объемах. Linkedin я запилил нарастить доверие в инетах через публичные резюме

3. Что может пойти так?
- Критики помогают защищаться от бигтехов, но мир в целом тормозят своей предосторожностью и "что может пойти не так"
- В US 50к суицидов в год и 100к передозов; в тч так как терапия недоступна, LLM помогут. Пишет, что нет разницы между КПТ и chatGPT (согласен, КПТ бесполезна 🙈, лучше к @julisache)

4. Частные общественные блага
- В 2019 у Zuboff книга Age of Surveillance Capitalism что бигтехи отбирают у нас agency алгоритмами. Не знаю, думаю экосистемы "платформа-креаторы-юзеры" дают много блага всему человечеству
- Для AI датасеты да, натырили в инетах, нужен апгрейд законов о копирайте
- Раньше общественный договор был “бесплатные сервисы в обмен на данные”, но щас с учетом гигантских выручек и вопросов к privacy уже не так очевиден. Meta делает $4/мес С КАЖДОГО юзера, т.е. платная подписка всем стоила бы $48/год

5. Тестируем
- Итерационное развитие [любой tech] лучше, чем куча регуляций. AI может быть более чем этичен, все ОК
- Думаю, нейронки в итоге проинтерпретируют. Chatbot Arena лучший бенчмарк, тк там не загрязняются тесты

6. Инновации это безопасность
- В EU GDPR в 2018г вытекал из принципа предосторожности, а США 20 лет ехали в инете как дикий запад
- В начале 20 века авто же тоже можно было испугаться, зарубить, но тогда бы не было изобилия как щас

7. Инфо-GPS
- GPS задумали в 1971, продают с 1989 (хотели запретить), и широта юзания на сегодня поражает. LLM - это GPS наших дней
- А кто-то считает, что будет еще и расцвет нейронок-агентов

8. Код это закон
- В 1991 Lessig, юрист и фаундер Creative Commons, написал книгу Code & other laws of cyberspace, как софт/архитектуры/решения влияют на уклад всей нашей жизни, в тч тк цепляют и оффлайн
- Роботы, AI, блокчейны итп будут вокруг, но да, общественному договору нужен апгрейд: чтобы клиенты были еще и stakeholders, могли влиять

9. Networked autonomy
- По мере развития tech понятие свободы постоянно менялось и скорее росло (e.g. Гутенберг увеличил свободу слова). AI повышает демократичность
- AI подразумевает бОльшую и сложность устройства социума, и его связность, и возможности для обществ, но регуляции тут все же вырастут

10. A(i)merica
- Как бы США не провафлить мировое лидерство выдающейся технологии попытками это все избыточно зарегулировать, да еще и эти страшилки для населения
- Больше людей должны быть вовлечены в общественные дискуссии про что и как делать с AI

11. Отсюда туда
- Как от проникновения авто и смартфонов в нашу жизнь, мы все ощутим растущие эффекты от того, что все вокруг будут юзать AI
- Давайте открываться AI, будущее никто не знает

**

UPD1: Еще читал тут книги:
- Technofeudalism: what killed capitalism

и

- Биографию главы SoftBank

UPD2: Нечаянно сломал комменты к посту 🙈

www.group-telegram.com/tw/Victor_Osyka.com/556

3.8K viewsedited  Feb 8 at 09:52

Вышла книга Superagency: what could go right with AI future от Reid Hoffman, фаундера Linkedin и InflectionAI с Suleyman/Deepmind, донора OpenAI с 2015 и HAI в Stanford. Не утопист как Bostrom или Курцвейл, но оптимист:

Интро
- В 60ые Конгресс обсуждал риски мэйнфреймов. Самые полезные tech часто казались анти-human
- Блочить AI - блажь, мир все равно запилит. Надо проактивнее строить желаемое будущее миллиардам людей
- Я идеалист. И AI имитирует нас, он не мы

Глава 1. Люди в чате
- Захват внимания удался FB и Google, а блокчейн и метаверс еще нет, а вот chatGPT это прямо рекорд
- Страхи AI сводятся к потере людьми агентности. Наоборот: люди получат ее больше за счет synthetic intelligence, как с 1800ых нам помогла synthetic (НЕ био) энергия итп
- На сдвиги tech можно смотреть по всякому, e.g. что промышленная революция убила экологию, детский труд, в городах тесно итп. Но и прочее улучшилось, в тч свободы
- Есть: doomers (“нам конец”), gloomers (критичны: "AI просто value extraction"), zoomers (рады) и bloomers (супер-оптимисты)

2. Большое знание
- На Западе не реализовались страхи 1984 о big brother/гос-ве, но у бигтехов много данных. Но это создает ведь и оч много блага всем. Мир/страны стоят на потоках инфо и ее растущих объемах. Linkedin я запилил нарастить доверие в инетах через публичные резюме

3. Что может пойти так?
- Критики помогают защищаться от бигтехов, но мир в целом тормозят своей предосторожностью и "что может пойти не так"
- В US 50к суицидов в год и 100к передозов; в тч так как терапия недоступна, LLM помогут. Пишет, что нет разницы между КПТ и chatGPT (согласен, КПТ бесполезна 🙈, лучше к @julisache)

4. Частные общественные блага
- В 2019 у Zuboff книга Age of Surveillance Capitalism что бигтехи отбирают у нас agency алгоритмами. Не знаю, думаю экосистемы "платформа-креаторы-юзеры" дают много блага всему человечеству
- Для AI датасеты да, натырили в инетах, нужен апгрейд законов о копирайте
- Раньше общественный договор был “бесплатные сервисы в обмен на данные”, но щас с учетом гигантских выручек и вопросов к privacy уже не так очевиден. Meta делает $4/мес С КАЖДОГО юзера, т.е. платная подписка всем стоила бы $48/год

5. Тестируем
- Итерационное развитие [любой tech] лучше, чем куча регуляций. AI может быть более чем этичен, все ОК
- Думаю, нейронки в итоге проинтерпретируют. Chatbot Arena лучший бенчмарк, тк там не загрязняются тесты

6. Инновации это безопасность
- В EU GDPR в 2018г вытекал из принципа предосторожности, а США 20 лет ехали в инете как дикий запад
- В начале 20 века авто же тоже можно было испугаться, зарубить, но тогда бы не было изобилия как щас

7. Инфо-GPS
- GPS задумали в 1971, продают с 1989 (хотели запретить), и широта юзания на сегодня поражает. LLM - это GPS наших дней
- А кто-то считает, что будет еще и расцвет нейронок-агентов

8. Код это закон
- В 1991 Lessig, юрист и фаундер Creative Commons, написал книгу Code & other laws of cyberspace, как софт/архитектуры/решения влияют на уклад всей нашей жизни, в тч тк цепляют и оффлайн
- Роботы, AI, блокчейны итп будут вокруг, но да, общественному договору нужен апгрейд: чтобы клиенты были еще и stakeholders, могли влиять

9. Networked autonomy
- По мере развития tech понятие свободы постоянно менялось и скорее росло (e.g. Гутенберг увеличил свободу слова). AI повышает демократичность
- AI подразумевает бОльшую и сложность устройства социума, и его связность, и возможности для обществ, но регуляции тут все же вырастут

10. A(i)merica
- Как бы США не провафлить мировое лидерство выдающейся технологии попытками это все избыточно зарегулировать, да еще и эти страшилки для населения
- Больше людей должны быть вовлечены в общественные дискуссии про что и как делать с AI

11. Отсюда туда
- Как от проникновения авто и смартфонов в нашу жизнь, мы все ощутим растущие эффекты от того, что все вокруг будут юзать AI
- Давайте открываться AI, будущее никто не знает

**

UPD1: Еще читал тут книги:
- Technofeudalism: what killed capitalism

и

- Биографию главы SoftBank

UPD2: Нечаянно сломал комменты к посту 🙈

BY Victor Osyka, техноцивилизация