Сформувався fear of missing out по використанню ШІ моделей. Передові ЛЛМ зараз вже достатньо розвинені, щоб робити гарні проекти за допомогою них, але на це треба час, щоб керувати ними.

У мене постійно невикористаний ліміт на ChatGPT (я маю на увазі O3) та Gemini (хоча там ліміт використати дуже складно, та й не виглядає дуже привабливим), і я через це нервую та відчуваю, що втрачаю можливості.

Клодяра в мене майже завжди завантажений, паше як віл. Кожні 3 години, як ліміт прибирається, даю йому щось нове.

Є люди, у кого О3 завантажена під ліміт? Що ви робите з нею, особливо якщо це не вимагає багато часу на день?

Можливо є навіть люди, у кого Gemini Pro 2.5 завантажена? Питання аналогічне.

Або навіть якщо ви самі не використовуєте їх «під завʼязку», може є ідеї, як це (корисно) робити за не більше ніж 30 хвилин в день?

В цілому вважаю Тіля небезпечним психопатом, але це сказано дуже правдиво та влучно.

Навіть при всій своїй перспективності в сенсі прибутків, ШІ не отримував би і настільки близько інвестицій, якби були якісь інші альтернативи, в які люди вірили.

https://x.com/vitrupo/status/1938643142116618357?s=46&t=779E7UutOOl0DK6MbEY0cg

Ще вважаю, що нам треба щось на кшталт давньоримського інституту всиновлення.

Доросла людина всиновлює іншу, часто вже теж доволі чи повністю дорослу людину, з політичних, ідеологічних, духовних, економічних чи філософських міркувань, і стає для неї наставником і джерелом розвитку.

Це не повинно навіть називатися всиновленням, і тим більше не повинно означати, що треба змінювати родини, чи що всиновлювач повинен фактично чи юридично замінювати справжніх батьків.

Просто…

Почитайте, як Пол Грехем розповідає про те, як він виховує своїх дітей. Як їм це подобається, наскільки якісно це відбувається.

Уявіть, що Пол Грехем всиновив би якогось 16-річного вундеркінда і робив би для нього все, що він робить для своїх дітей. Уявіть, ким могла б стати така людина.

Окрім цього, всиновлення дозволяє набагато більш ефективну передачу багатства. Уявіть, що технічній мільярдер передає значну частину своїх грошей не просто гарній, але в цілому посередній людини, яка була обрана лише тому, що вона має з ним на 50% спільний геном, а наступному технічному мільярдеру - тобто тому, хто має здатності та амбіції робити бізнеси і покращувати життя людей.

У нас є звичайно трохи інститут хрещених батьків, але мені здається, він взагалі не працює в цих напрямках, якщо взагалі хоч в якихось працює.

Ще зарано говорити, але якби мені зараз треба було робити ставку на «який pre-ASI ризик від misaligned AI вдарить першим, якщо вдарить взагалі до появи суперінтелекту?», я б поставив на те, що англійською називається sycophancy.

Судячи зі всього, сучасні методи алайнменту на практиці доволі універсально приводять до того, що моделі погоджуються з юзерами більше ніж треба і заохочують їх деструктивні чи банально епістемологічно некоректні ідеї.

Поки що це як правило не призводить до якихось трагічних наслідків, але sycophancy в маленьких дозах розчинена в усіх текстах ЛЛМ, як пластик в сучасній їжі. Коли ця доза стане летальною та чи стане? Все ж таки є ринковий тиск на те, щоб моделі не заохочували юзера, коли він наприклад хоче самовбитися чи кинути роботу заради розробки альтернативної теорії всього в фізиці. Питання зводиться до того, чи можна за допомогою RLHF зробити моделі, які достатньо лестиві та підлабузні, щоб більшість людей була залежна від спілкування з ними, але при цьому не настільки лестиві та підлабузні, щоб допомагати людям в дуже деструктивних речах.

Гортаю цим вечором у потязі старі пости цього каналу, все далі і далі. Епоха класичного трансгуманізму як вона є.

Дуже добре, що я все це писав! Це така чудова документація власних думок і їх еволюції. Інколи дивно дивитися на все це.

Насправді, тут є багато про що подумати та написати. Зараз скажу дві речі:

1. Ігор-2019 був помітно тупіший, ніж Ігор-2025, але помітно розумніший, ніж уявлення в памʼяті Ігоря-2025 про Ігоря-2019.
2. Трохи перефразовуючи Дженсена Хуанга, великою перевагою молодих недосвідчених людей є діяльний оптимізм, викликаний відсутністю адекватного розуміння того, наскільки все насправді складно. The sheer folly of callow youth.

Ігорю-2025 було б про що поговорити з Ігорем-2019, але, гадаю, в кінцевому рахунку суть їхньої розмови звелася б до цих двох фраз:

https://youtu.be/g57LxM-GcSc?si=9D_4EywSgRowNNeI