ЗБІР!

Дуже прошу підтримати збір для мого чудового друга. Колись, ми познайомилися з ним на МАНі, він був девʼятикласником тоді, а зараз він вже майор, який побував на майже всіх напрямках війни.

Я дуже рідко пишу про збори, бо вважаю, що зазвичай є більш компетентні люди, від яких краще отримувати цю інформацію, але зараз той випадок, коли це необхідно!

https://www.facebook.com/share/1AjY7Z1aPv/?mibextid=wwXIfr

Лол

(Це про те, що статті, які доводять, що ШІ не можуть мислити, можуть однаково довести, що люди не можуть мислити)

Ніхто:

Абсолютно ніхто:

Майже будь-який PhD-студент, коли питаєш у нього, як справи:

Насправді, скоро виходить моя інша книга. Цікаво, чи здогадаєтесь ви, яка - зараз зроблю опитувальник. Мені здається, можна здогадатися, якщо подумати раціонально.

Багато хто з вас проголосував за AI Alignment. Що ж, це сама та ситуація, де писати книгу було б морально приємно, але по суті марно. Я і близько не має достатньо знань та інтелекту, щоб бути хоча б мінімально впевненим, що я роблю якийсь мінімально правильний та одночасно оригінальний ревью галузі алайнменту, тим більше пропонувати чи порівнювати рішення чи напрямки досліджень. Набагато більш розумні люди витратили набагато більше зусиль, і в них нічого не вийшло.

Юдковський не зміг нічого зробити!

Пол Крістіано не зміг нічого зробити! Тобто, надзвичайно складні і багатоступеневі схеми Крістіано теоретично можуть спрацювати, якщо їх хтось застосує на практиці, але по-перше, ніхто не застосує їх на практиці, а по-друге, консенсус скоріше тяжіє до того, що вони не спрацюють, навіть якщо застосувати їх в усій повноті.

Скот Ааронсон не зміг нічого зробити!

Сатскевер, один з головних творців сучасного ШІ, який перебуває у найбільш продуктивному віці та має буквально мільярди доларів, не зміг (принаймні поки) нічого зробити!

Тому, в тому числі, я і не приєднався досі до жодної AI safety організації full-time. Я можу робити і роблю певні точкові дослідження з дуже конкретних вузько визначених питань, але робити огляди, задавати стратегії - ні!

Треба знати, що ти знаєш і що ти не знаєш.

The Ring cannot be destroyed by any craft that we here possess.

Shut it all down.

Що стосується усіх інших книжок, то опитування було ускладнене тим, що я дійсно пишу усі ці книжки (окрім AI Risks Explainer, бо по цьому теж є вже дуже гарні матеріали), просто повільно, і вони всі дуже в моєму стилі, тому можна зрозуміти, якщо ви обрали будь-яку з них.

Проте, є одна тема, терміновість якої є критичною. Тема, де кожен день на рахунку і де, на мій погляд, можна зробити реальний, важливий прогрес. Яку не можна відкладати. Я неодноразово писав про це на каналі.

BIOLOGICAL FOUNDATION MODELS!
SINGLE-CELL FOUNDATION MODELS MECHANISTIC INTERPRETABILITY!
FINE-TUNING FOUNDATION MODELS!
MODELS DISTILLATION!

I mean, the amount of time spent pondering all the regulatory and signaling networks is, sadly, astonishing.

Я роблю велику ставку на велетенські трансформери для біології. Я думаю, we are onto something. Це все не пояснити в двох словах, і в трьох, і власне тому я і написав книгу. Вона є одночасно науковим ревью, підручником, програмою досліджень та маніфестом.

Це та сфера, де силу штучного інтелекту можна використати на благо людства і навіть, потенційно, зробити внесок в те, щоб врятувати всіх від misaligned superintelligence. У мене є доволі конкретне бачення, що можна зробити. Може, воно не спрацює, але треба робити ставку.

Закони масштабування, ентропія біологічних даних, механістична інтерпретабельність, «гіркий урок» Саттона, генералізація моделей - це все вибудувалося в моїй голові в єдину картину, і настав час розповісти про це.

Також, мені здається, що біологи/біоінформатики, в цілому, недооцінюють потенціал цих моделей, а ШІ-вчені та інженери інколи не бачать, що вони можуть займатися чимось набагато більш корисним, ніж ЛЛМками, і це теж можна і треба виправити.

https://youtu.be/BOWWWbsZwTk?si=8ZPV8lR_C-l6_7cB

Не знаю чому, але так за душу бере це відео! Здавалося б, просто нарізка видатних вчених і популяризаторів. Ну, і Мітіо Каку.

https://youtu.be/gA4GxTQtrKw?si=WkhCJzAYSfBNxIhw

Так!

Поступово повертаються до повноцінного біохакерського режиму. Давно не почував себе так добре і продуктивно. Дуже сильно збив режим спочатку через війну, потім через ШІ, але це було нераціонально. Це була слабкість.

Настрій був на цей рахунок щось типу «та яка вже різниця». Але різниця є!

Якщо хочеш допомогти найбільш ефективно, то повинен бути в найкращій формі.

Я можу надавати які завгодно виправдання та аргументацію, але думаю, найбільш чесно буде сказати, що це була слабкість і негідність. І дуже добре виправити це.

Буду інколи писати на цю тему з особистого досвіду та з тих досліджень, що бачу.

Біохакінг, «рутини» та добавки - це тема доволі суперечлива, і в деяких від неї бомбить вона викликає інколи справедливий скепсис. Ми торкнемося, з часом, і суперечливих речей.
Але я почну з однієї, на мій погляд, абсолютно несуперечливоі, простої, легкої, але дуже важливої речі.

Швидкі вуглеводи!

Просто приберіть швидкі вуглеводи з їжі! У звичайних умовах життя, вони не роблять нічого корисного взагалі, і лише роблять шкоду, причому одразу по купі напрямків! Я не знаю жодного бодай мінімально валідного свідчення, що є якісь плюси у споживанні швидких вуглеводів. Ну, вочевидь вони дають енергію, але будь-яка їжа дає енергію. І, звичайно, є особливі ситуації, такі як hypoglemlic emergency унаслідок операцій чи нещасних випадків, але тоді вам цукор введуть в реанімації і без вас. Є специфічні хвороби. І є «вуглеводне вікно» після важких силових тренувань. Але якщо у вас нема якоїсь особливої хвороби, якщо вас не очікує якась особлива операція, або якщо ви не тренуєтесь на Mr. Olympia, то швидкі вуглеводи не потрібні.

Одне лише прибирання зайвих швидких вуглеводів з їжі без жодних інших інтервенцій є кроком, який покращує практично будь-який аспект здоровʼя та продуктивності.

Якщо у когось є інші дані на цей рахунок, то пропоную поділитися в коментарях. Мені справді цікаво, чи є якісь свідчення в інший бік.

Зазвичай, протягом свого життя, я прочитував доволі багато книжок на одиницю часу. Десь пару книжок на тиждень в середньому, гадаю.

Цього року, з книжок я читаю лише Кнута, Фейнмана, Альбертса, Ленінджера і Юдковського, плюс деяку математику, знову і знову. І це буде тривати ще деякий час. Via negativa. І мені здається, що так краще, принаймні на даному конкретному етапі.

(Звичайно, як це часто буває в житті, з часом все більше читається власне наукових статей, але це скоріше через необхідність)

Stargate.

Портал у науковій фантастиці, через який орди іншопланетян вторгалися на Землю.

What a prescient turn of phrase.

Але відео саме по собі чудове! В інших більш адекватних гілках Евереттівського мультивсесвіту наші віддалені більш щасливі родичі будують подібні проекти по нейротехнологічному вдосконаленню людей та боротьбі зі старінням, і про них там знімають відео зі схожими вайбами.

https://youtu.be/GhIJs4zbH0o?si=F58Ap-bHpP6HAnSW

Що може бути більш гігачадовим, ніж цитата Дженсена Хуанга про годинник чи його промова про страждання?

Лише його work experience в профілі лінкедіну.

Ще один pre-revenue, pre-product, pre-idea і pre-website ШІ стартап вартістю в мільярди доларів!

Ви подивіться на цей жах!

Найбільша трагедія в тому, що low birth culture стала асоціюватися з high status/освіченістю/високим статком.

Ненародження дітей - це антипрогресивно, антитрансгуманістично, навіть просто антигуманістично, якщо хочете.

Пропоную подивитися на це ще під таким кутом. Зараз велетенські технологічні компанії та орди інженерів по всьому світу витрачають мільярди доларів та мільйони людиногодин на те, щоб створити misaligned AGI, утім майже кожна жінка з невеликою допомогою майже кожного чоловіка може створити більш-менш aligned AGI за мікроскопічно малу частку цих ресурсів і використовуючи набагато менше часу! І це чомусь не є пріоритетом для багатьох національних політик!

Якщо у вас є можливість заводити дітей, то заводьте! Не чекайте якогось слушного моменту. З кожним роком життя, починаючи десь з 18, зростає ймовірність мутацій в статевих клітинах, ймовірність ускладнень при пологах.

Якщо зараз нема можливості заводити дітей, хоча б збережіть свій генетичний матеріал в максимально молодому віці. Шкода, що я не зробив цього в 18 років! Добре, що роблю це хоча б в 27.

Коли у мене буде дружина, то ми одразу займемося народженням дітей. Мінімум - 3. Краще більше.

Це найбільш low-hanging fruit в трансгуманістичній програмі. Дуже, дуже безглуздо, коли ігнорується такий легкий спосіб зробити так багато. Навіть я, на жаль, інколи фокусуюся на неспівставно менш важливих речах, бо вони більше відповідають вайбам якихось корисних речей, але по суті менш корисні.