Follow up - написав статтю з деякими порадами щодо розвитку: https://kendiukhov.medium.com/my-advice-to-15-18-year-olds-c47c3433e263. Це не повний і навіть не найбільш пріоритетний перелік - фокус скоріше на тому, що я ще не писав і що рідко згадується в інших місцях.

За проханнями, матеріали про “продуктивність”

Головне джерело - це, як завжди, Sequences of Rationality. У даному випадку - Book VI: Becoming Stronger

Наступне - це блог Пола Грехема. Там не так багато статей, і краще усі їх прочитати. Але якщо потрібно обрати лише декілька, то це:

When to Do What You Love

How to Start Google

How to Do Great Work

Beyond Smart

How to Work Hard

How to Lose Time and Money

How to Start a Startup

Пол Грехем - унікальна людина. Надзвичайно талановитий інвестор та підприємець, засновник Y Combinator, computer scientist, художник, письменник і людина дуже високих моральних якостей. Усе, що я дізнаюся про нього, ще більше підвищує його в моїх очах, хоча здаєтьcя, що далі вже нема куди. Це робить його поради ще кращими.

Наступне - це автобіографія Фейнмана. Вона звичайно не про продуктивність, але це найкраща практична ілюстрація thinking from the first principles, яку я знаю, і це звичайно необхідно для того, щоб робити речі краще. Thinking from the first principles в цьому контексті означає задавати питання: чому X робиться шляхом Y, а не іншим? Чи можна зробити X кращим чи швидшим шляхом? Які причини щодо того, чому використовується метод Y? Чи можу я бути впевненим, що я роблю Y через те, що Y - це гарний метод, а не через інші причини?

Наступне - це уникати. Via negativa. Уникати фейкових порад, лідерів і метрик. Уникати оптимізації “успіху” і “престижу”. Уникати людей з краватками. Уникати орієнтації на процедури і рітуали, замість результатів. Уникати думок дурних людей, навіть якщо твій мозок змушує тебе звертати увагу на їх статус, навіть якщо вони зверху в соціальній ієрархії. Уникати усього, що оптимізується під те, як воно виглядає. Це не все, чого треба уникати, але це те, що першим спадає на думку. Багато людей не уникають того, що треба уникати, і я не можу перерахувати все це. Напевно, за правильним униканням треба ретельно слідкувати.

Фрідман - ворог, і ворог небезпечний. Він не на боці України, і взагалі на жодному адекватному боці.

Він небезпечний, тому що на відміну від інших подкастерів, які ведуть пропаганду кровожерливих кретинів, він отримав довіру від багатьох адекватних людей. Він зробив це простим чином: змішав 70% цікавих і розумних науковців, підприємців і суспільних діячів з 30% кровожерливих кретинів. Жодна адекватна людина не буде слухати Пітерсона чи Карлсона, тому що їх інтерв’ю повністю складаються з пропаганди та вихвалання кровожерливості і кретинізму. Але ж Фрідман, він не такий, у нього такі чудові науковці, вони розповідають такі цікаві речі!

Він виправдовує таку екстремальну увагу до кровожерливих кретинів тим, що “треба почути інший бік”. Утім, простір людей - це простір дуже великої розмірності, і “інших боків” в ньому дуже багато. Існує безліч способів спроекувати великовимірний набір даних на одновимірну лінію - “спектр”, але Фрідман - якимось дивом - завжди обирає таку проекцію, що на одному кінці спектру завжди кровожерливі кретини. Більш простими словами, у світі дуже багато людей з дуже різними думками стосовно будь-яких питань, і вони часто мають протилежні думки з багатьох важливих речей, і багато хто з цих людей дійсно не сприймається мейнстрімними медіа, але Фрідман обирає не їх, незважаючи на те, що вони теж “на іншому кінці спектру”, для майже будь-якого спектру. Він завжди обирає такий спектр, що на його іншому кінці - кровожерливі кретини. Систематичність цієї поведінки змушує відмовитися від думки про те, що це просто невинне співпадіння.

Чому він це робить? Це вже інше - і напевно не дуже важливе - питання. У першому наближенні, виглядає так, що він просто щось типу морального інваліда, який позбавлений природньої здатності до емпатії і компенсує це гіперекспресією поведінки, яка, відповідає його неправильному потворному теоретичному уявленню про людяність і доброту. Тобто, “я просто дивний аутист, не чіпайте мене”. Але я не думаю ані що це виправдання, якщо це правда, ані що це (повністю) правда. Інше тривіальне пояснення в тому, що він просто обирає тих гостей, які принесуть більше конверсії. Але і воно не витримує критики - хоча він дійсно орієнтується на поточні інформаційні приводи, коли вирішує, кого запросити, багато хто з його гостей далеко не в топі популярності навіть коли вони на гребні деяких інформаційних хвиль. Факти полягають в тому, що його поведінку доволі складно пояснити без залучення гіпотези про те, що це цілеспрямовано зла поведінка, навіть враховуючи апріорно мало ймовірність цього і моє переконання, що причини практично завжди треба шукати в тупості і халатності, а не злості.

Звичайно, треба використовувати кожну можливість розповісти на американську аудиторію - навіть за допомогою Фрідмана, але будь ласка, не майте ілюзій щодо нього. Не слухайте його. Не довіряйте тому, що він каже.

Або так: https://youtube.com/shorts/aJU6xJ_5VaM?si=9qFY4NKq47Ce0yq5

93% на реліз o1! https://manifold.markets/dominic/what-will-openai-announce-during-th

День 1. Передовий ШІ більше не умовно безкоштовний. https://openai.com/index/introducing-chatgpt-pro/

Тадам!

https://www.transformernews.ai/p/openais-new-model-tried-to-avoid

Досить. O1 - чудовий момент, щоб зупинитися. Її вистачить на десятки років, щоб робити бізнеси та наукові дослідження за допомогою неї. Досить, будь ласка. Дуже, дуже будь ласка.

Який чудовий момент, щоб зупинитися!

Комусь вдалося зареєструватися на sora.com?

Цікаво, як люди, які заперечують Евереттівську інтерпретацію, пояснюють це? Воно «просто відбувається»? Shut up and calculate?

https://blog.google/technology/research/google-willow-quantum-chip/

Між Маском та Альтманом намічається (або, скоріше, вже почалося) жорстоке протистояння.

У першому наближенні здається, що всі шанси у Маска. Він на шляху стати першим трильйонером у найближчому майбутньому, має свого президента США, скупив найбільшу кількість GPU за історію світу, усі його потужні вороги, здебільшого, поховалися, і напевно з часів Марка Ліцинія Красса приватна особа не мала такого фактичного впливу. Від постійних перемог, зростання власних ресурсів і споживання авторитарної пропаганди він буде тиснути усе більше і сильніше.

Альтман, у тому ж самому першому наближенні, виглядає як просто черговий дуже успішний підприємець, від якого нічого не залишиться. Утім, вже той факт, що найважливіша компанія в світі опинилася в його руках, змушує сприймати його більш серйозно. Більш детальне ознайомлення з його персоною рухає ще далі - набагато далі - в цьому напрямку.

Більшість відгуків, що я колись знайшов про нього, - відгуків, що були зроблені людьми, які самі є здебільшого геніальними і екстремально талановитими - розповідають про розум кришталевої ясності, жахаючу здатність досягати будь-яких цілей і отримувати усе, що він хоче, про талант геніального маніпулятора, поєднаний з виключними технічними здатностями. Дехто з цих людей в захваті від Альтмана, дехто ненавидить його, але всі погоджуються щодо його здібностей.

Як-то кажуть, вболіваю за обидві сторони.

Юдковський дивиться на те, як він відправляється на Beneficial AI Conference у 2015 році, де Маск та Альтман послухають його занепокоєння про алайнмент і вирішать заснувати OpenAI.

І ще.

Відповідь отримано: шлях від ідіота до генія ШІ пройшов за 2 роки.

Я все ж таки до останнього сподівався, що це не відбудеться прям настільки швидко.

Сподівався, що ШІ на трансформерах вивчає якусь поверхневу репрезентацію мислення замість мислення, генералізація якої зупиниться достатньо рано.
Сподівався, що масштабування до суперінтелекту буде потребувати більше ВВП, енергії та талантів, ніж людство може чи захоче витратити.

Я думав, що приблизно до 2028-29 року стане зрозуміло, чи відбудеться масштабування до суперінтелекту, але це стало зрозуміло вже зараз. 20 грудня 2024 року людству повідомили, що штучний суперінтелект буде створено, і буде створено скоро.

O3 або вже здатна до радикального прискорення інженерії ШІ, або в декількох місяцях роботи OpenAI від того, щоб бути здатною.

Розмірковуючи зараз про потенційні сценарії того, як в умовах, що склалися, штучний суперінтелект може бути не створений, я не можу знайти жодного сценарію. Хіба що, глобальна ядерна війна не пізніше кінця 2026 року? Може, відбудеться щось неймовірне, щось, про що ніхто не міг здогадатися, але якщо якогось дива не станеться, штучний суперінтелект буде створено, і буде створено скоро.

О3 вже в розмитих межах суперінтелекту. Усе, що буде відбуватися далі, - це сліпе блукання по золотому мінному полю, на якому з часом стає все більше золота і мін. Рано чи пізно міна вибухне, але я не думаю, що хтось знає, коли. Але скоріше рано, ніж пізно.

Перед повномасштабною війною, коли я був впевнений, що війна почнеться, я намагався переконати людей готуватися і рятуватися, або хоча б переконати, що війна почнеться. Але я не робив цього і близько до того, як я міг би і як було б варто. Деякі люди, яких я міг би переконати краще, вижили лише дивом в кінцевому рахунку, і я впевнений, що десь були люди, які могли послухати мене, якби я доклав зусиль, але які померли або зазнали великих втрат, бо я не доклав цих зусиль.

Чому я не доклав їх? Мені здається, що мені було б просто незручно, в соціальному чи психологічному сенсі. Я маю на увазі, що я б виглядав як клоун і з мене б сміялися, і мозку було неприємно очікувати цього, і тому він не хотів докладати екстраординарних зусиль, які були необхідні.

Зараз моєму мозку теж неприємно, бо з мене будуть сміятися, але я не збираюся повторювати ту ж саму помилку.

Тому я кажу вам: штучний суперінтелект насувається, і скоріше за все він знищить людство. Не розраховуйте, що ваше життя буде довгим, і тим більше не розраховуйте, що ви зможете якось конкурувати з ШІ. Наступний час в історії людства, яким би коротким він не був, буде часом зростаючого божевілля і див. До того, як ШІ всіх вбʼє, нас очікують дивовижні речі. Я не знаю, що саме, але це будуть дивовижні наукові та технічні відкриття. Може, відбудеться щось, що усіх врятує. Це не заборонено законами фізики, і є декілька малоймовірних припущень, в яких напрямках це може відбутися, але я б на це не розраховував. Ваші родичі і друзі, які знають менше, ніж ви, також заслуговують знати, що їх чекає, і виглядати клоуном - дуже маленька ціна за те, щоб їм допомогти, хоча б трохи.