Victor Osyka, техноцивилизация

Mark Zuckerberg чуть приоткрылся в интервью на 2.5 часа Lex Fridman’у (AI ученый в США из РФ/Украины), подкаст #383:

Личное
- Турнир по джиу-джитсу? Спорт требует 100% фокус, занялся джиу-джитсу/MMA для антистресса, но не боясь: я оч competitive + люблю confidence. Спорт как шахматы: нужен стратегический анализ соперника. Начинал с 0, как и FB в нашей миссии на 10 лет, “to help people connect & express themselves”
- Стрессую когда напряжения в команде: им же принимать все сложные (в тч из-за values) решения про наши бизнесы. Стратегию я вижу, а люди - нелинейные, и я диспропорционально много времени трачу на взращивание core team (30 чел)

Oculus/VR
- Нам нужен массовый продукт, за $500, а не элитарный. Мы уже продали десятки млн девайсов, а Apple хотят выпустить 1 млн шт. Они покажут, что high-end ниша поехала, но mass clients смогут себе позволить нас. В презе Apple не затронут gaming + нет тактильного контроллера, а это львиная доля VR/игр -> т.е. в hardware делаешь оч. много design trade-offs, и мы и они выбрали разное

Twitter
- Думаю, у Twitter нет 1 млрд юзеров не потому, что текстовая соцсеть хуже TikTok, а потому что execution. Плюс хакать виральность продуктов - это оч. сложно. Но мы, кажется, это освоили
- Снаружи бесполезно оценивать Маска в Twitter: бездна нюансов + у каждого лидера свой стиль + “не попробуешь, не узнаешь”. Убрать прослойки менеджеров и повысить связность/мотивацию разрабов - это ОК. Мы тоже увольняли, тк мир оч колбасит и хочется иметь резервы + мы оч быстро растили людей и у менеджеров было всего по 3 подчиненных (а могут же по 7-8 иметь)
- Удаленка? Мы рисечили: кто уже неск. лет в компании - им ОК, у них есть связи. А новичкам лучше вживую повливаться в культуру

AI
- Хотим иметь лучших в мире AI ученых (Yann LeCun), а им важна возможность шерить результаты (языковая модель LLaMA) - это и есть наша сделка с ними, помимо масштаба инфраструктуры. Увидим, что студенты/хакеры/стартапы сделают с нашим open source + выше безопасность и alignment (но никто не считает, что LLMs это хоть как-то super AI). У нас не топ модель: у OpenAI и Google в 10 раз больше параметров, но зато мы переводим 1000 языков
- Уже достигнутая AI магия поменяет цивилизацию когда сотни млн людей будут пользоваться. Наш импакт будет убойный с AI на 3 млрд юзеров (Fb, Insta, Whatsapp). Будет много разных AI, как сейчас разные аппы для разных потребностей, бизнесов, брендов, mass customization. Фундаментально, AI как и Google - освобождает память и время на другое/думать глубже
- Просто масштабирование размеров нейронок не даст AGI, нужны новые шаги, нам пока далеко. Еще сейчас в своих спекуляциях Yudkovski итп спутали интеллект и автономность. Я считаю, что простой, но автономный AI agent (как вирусы) может нанести больше вреда нежели условный AGI, и регуляторам надо тут присмотреться
- Корпорации или биржевой рынок, кстати, примеры коллективной intelligence, где система умнее своих звеньев
- Наш community подход к open source отличается от индустрии, но мы убеждены, что так достигнем бОльшего. Думаем о crowdsource типа Wikipedia для finetuning’а, их сообщество круто + там небольшое число редакторов балансирует все конфликты интересов, что кстати тоже alignment

Модерация контента
- Мы выявляем 18 типов harmful content (особенно терроризм, инцест, насилие, копирайт), постоянная гонка вооружений - с изощренными стратегиями, с сетями ботов, и AI нам поможет еще больше. Мы за аутентичное сообщество людей, без фейков, в противостоянии их мнений развиваются культура и arts
- Или корона когда только началась - это реально не так просто проводить грань между фактами и мнениями, даже в науке... Нам сложно быть под таким давлением с разных сторон + со стороны властей (которые хотят свое или цензуру). Мы на годы вперед планируем архитектуру софта/размещение датацентров, чтобы сберечь данные людей, а то в какой-то момент они могут придти с пистолетами и изъять их

Философия
- У нас с Priscilla родилась 3ья дочь. Мы хоть и живем в симуляции, но после детей мне стали гораздо важнее культура, community + ценности в религии

www.group-telegram.com/ye/Victor_Osyka.com/455

8.1K viewsedited  Jun 12, 2023 at 08:28

Mark Zuckerberg чуть приоткрылся в интервью на 2.5 часа Lex Fridman’у (AI ученый в США из РФ/Украины), подкаст #383:

Личное
- Турнир по джиу-джитсу? Спорт требует 100% фокус, занялся джиу-джитсу/MMA для антистресса, но не боясь: я оч competitive + люблю confidence. Спорт как шахматы: нужен стратегический анализ соперника. Начинал с 0, как и FB в нашей миссии на 10 лет, “to help people connect & express themselves”
- Стрессую когда напряжения в команде: им же принимать все сложные (в тч из-за values) решения про наши бизнесы. Стратегию я вижу, а люди - нелинейные, и я диспропорционально много времени трачу на взращивание core team (30 чел)

Oculus/VR
- Нам нужен массовый продукт, за $500, а не элитарный. Мы уже продали десятки млн девайсов, а Apple хотят выпустить 1 млн шт. Они покажут, что high-end ниша поехала, но mass clients смогут себе позволить нас. В презе Apple не затронут gaming + нет тактильного контроллера, а это львиная доля VR/игр -> т.е. в hardware делаешь оч. много design trade-offs, и мы и они выбрали разное

Twitter
- Думаю, у Twitter нет 1 млрд юзеров не потому, что текстовая соцсеть хуже TikTok, а потому что execution. Плюс хакать виральность продуктов - это оч. сложно. Но мы, кажется, это освоили
- Снаружи бесполезно оценивать Маска в Twitter: бездна нюансов + у каждого лидера свой стиль + “не попробуешь, не узнаешь”. Убрать прослойки менеджеров и повысить связность/мотивацию разрабов - это ОК. Мы тоже увольняли, тк мир оч колбасит и хочется иметь резервы + мы оч быстро растили людей и у менеджеров было всего по 3 подчиненных (а могут же по 7-8 иметь)
- Удаленка? Мы рисечили: кто уже неск. лет в компании - им ОК, у них есть связи. А новичкам лучше вживую повливаться в культуру

AI
- Хотим иметь лучших в мире AI ученых (Yann LeCun), а им важна возможность шерить результаты (языковая модель LLaMA) - это и есть наша сделка с ними, помимо масштаба инфраструктуры. Увидим, что студенты/хакеры/стартапы сделают с нашим open source + выше безопасность и alignment (но никто не считает, что LLMs это хоть как-то super AI). У нас не топ модель: у OpenAI и Google в 10 раз больше параметров, но зато мы переводим 1000 языков
- Уже достигнутая AI магия поменяет цивилизацию когда сотни млн людей будут пользоваться. Наш импакт будет убойный с AI на 3 млрд юзеров (Fb, Insta, Whatsapp). Будет много разных AI, как сейчас разные аппы для разных потребностей, бизнесов, брендов, mass customization. Фундаментально, AI как и Google - освобождает память и время на другое/думать глубже
- Просто масштабирование размеров нейронок не даст AGI, нужны новые шаги, нам пока далеко. Еще сейчас в своих спекуляциях Yudkovski итп спутали интеллект и автономность. Я считаю, что простой, но автономный AI agent (как вирусы) может нанести больше вреда нежели условный AGI, и регуляторам надо тут присмотреться
- Корпорации или биржевой рынок, кстати, примеры коллективной intelligence, где система умнее своих звеньев
- Наш community подход к open source отличается от индустрии, но мы убеждены, что так достигнем бОльшего. Думаем о crowdsource типа Wikipedia для finetuning’а, их сообщество круто + там небольшое число редакторов балансирует все конфликты интересов, что кстати тоже alignment

Модерация контента
- Мы выявляем 18 типов harmful content (особенно терроризм, инцест, насилие, копирайт), постоянная гонка вооружений - с изощренными стратегиями, с сетями ботов, и AI нам поможет еще больше. Мы за аутентичное сообщество людей, без фейков, в противостоянии их мнений развиваются культура и arts
- Или корона когда только началась - это реально не так просто проводить грань между фактами и мнениями, даже в науке... Нам сложно быть под таким давлением с разных сторон + со стороны властей (которые хотят свое или цензуру). Мы на годы вперед планируем архитектуру софта/размещение датацентров, чтобы сберечь данные людей, а то в какой-то момент они могут придти с пистолетами и изъять их

Философия
- У нас с Priscilla родилась 3ья дочь. Мы хоть и живем в симуляции, но после детей мне стали гораздо важнее культура, community + ценности в религии

BY Victor Osyka, техноцивилизация