Скажу ще одразу про «наукові ордени». І, до речі, на майбутнє - коли говоритиму про світ книги «Дорослішання», то використовуватиму слово Цивілізація.

У Цивілізації існує шість наукових орденів:
• Орден Баєса
• Орден Поппера
• Орден Тюрінга
• Орден Тесли
• Орден фон Неймана
• Орден Сагана

Здебільшого участь в орденах є, як то кажуть, діяльністю «по приколу», однак не повністю. Це можна порівняти зі студентськими організаціями в американських університетах нашої Землі, або, скажімо, зі скаутськими рухами — тільки для всіх вікових категорій, і до того ж такими, що мають значно більші ресурси та вплив, зокрема в певній, хай і обмеженій, політичній площині. Їхній вплив і статус зростають з роками. У 60-х роках їх вважали радше чимось «кринжовим», а станом на 2025 рік до них здебільшого ставляться як до поважних інституцій — як це часто буває в історії людства.

Найбільшими та найвпливовішими вважаються Орден Баєса й Орден Поппера. Саме вони з’явилися першими — у 50-х роках, як наслідок суперечок щодо статистики між баєсіанцями та фреквентістами. Баєсіанці першими почали називати себе орденом — спочатку радше жартома, — і деякий час вони залишалися єдиним «орденом», бо фреквентісти не пішли тим самим шляхом. Але з часом суперечки вщухли, а фреквентісти влилися до лав прихильників класичного наукового методу, які вже почали вести нові дебати з баєсіанцями, і підштовхнули своїх до створення «Ордена Поппера» — дещо як противагу «Ордену Баєса». Так виникло перше поділ на ордени, і спершу він проявлявся винятково у формі пародій на політичні та релігійні протистояння минулих епох при університетах. Ідея багатьом сподобалась і почала розвиватися — з’явилися всілякі атрибути, знаки та «звання». Урочисті «зібрання орденів» привносили радість і новизну в інколи похмуре життя науково-дослідних центрів.

З часом, однак, «ордени» обросли власними громадськими організаціями, джерелами фінансування та юридичною структурою. Складається враження, що новостворена Світова Рада сприяє цій тенденції з якихось власних, лише їй зрозумілих причин. Утім, це припущення певною мірою спекулятивне.

Розглянемо кожен орден докладніше.

Орден Баєса

Як уже було сказано, Орден Баєса вважається одним із наймогутніших, а можливо, і наймогутнішим. Його членами є майже всі інвестори та прогнозисти (а в Цивілізації це майже одне й те саме), більшість політиків і чиновників, багато підприємців і чимало науковців. Завдяки цьому Орден природним чином має значний вплив. Загалом, дуже часто людина, яка відіграє помітну роль у формуванні траєкторії розвитку Цивілізації, є членом Ордена Баєса.

Неофіційне гасло ордену:
“Everyone knows we are right, fundamentally.”

Головними чеснотами Ордена вважаються:
раціональність, правильне мислення, логіка, прогнозування, точність, робота над когнітивними упередженнями, теорія ймовірностей, аналіз даних, інтелектуальна чесність.
…

Орден Поппера

Орден Поппера є прямим «конкурентом» Ордена Баєса й змагається з ним за лідерство. Найпопулярніший серед науковців, а науковців у Цивілізації шанують понад усіх. Багато представників інших категорій населення — зокрема підприємці — також часто знаходять собі місце в ордені.

Неофіційне гасло ордену:
“Everyone knows we are right, in practice.”

Головними чеснотами ордену вважаються: науковий метод, наукова суворість, наукові досягнення, гіпотези й теорії, епістемологічна скромність, інтелектуальна чесність, ерудиція, ефективність у пізнанні.
…

Орден Тюрінга

Орден Тюрінга, як і слід було очікувати, об’єднує тих, хто захоплюється комп’ютерами й програмуванням. Обчислюваність, симуляції, моделі, кодування, формалізм. Інженери, вчені у сфері computer science, розробники апаратного забезпечення й дослідники штучного інтелекту. Члени ордену складають присягу не створювати потужні алгоритми, природу яких вони не розуміють, і присягають вони іменем Тюрінга, згадуючи його слова про ризики мислячих машин.

Більше за інших, у Ордені Тюрінга вірять у тезу Черча–Тюрінга–Тарського, хоча з цим погоджуються не всі — особливо в Ордені Поппера й Ордені Сагана. Найближчим другом Ордена Тюрінга вважається Орден Баєса, й не рідкість, коли люди переходять з одного ордену в інший.

Головними чеснотами ордену вважаються: формальне мислення, знання з програмування та автоматизації, логіка, здатність до креативності, інженерне мислення.

Неофіційне гасло ордену:
“God made the integers; all else is the work of man.”

Орден Тесли

Орден Тесли — для інженерів, творців і майстрів. Для тих, хто планує, будує, проєктує. Дуже багато підприємців, а загалом — людей, що працюють в індустрії, є членами цього ордену. Часто також до нього приєднуються представники комп’ютерних наук. До них іноді долучаються й деякі державні службовці. Орден дуже високо цінує скромність — що, щоправда, підходить не всім людям із бізнесу, й дехто обирає інші ордени саме через це.

Головними чеснотами ордену вважаються: креативність, інженерне мислення, альтруїзм, якість у роботі, підприємливість, планування, оптимізація.

Неофіційне гасло ордену:
“We do not talk, we build.”
…

Орден фон Неймана

Орден фон Неймана — для тих, хто любить вирішувати інтелектуальні задачі заради самого процесу. Його часто обирають шанувальники інтелектуальних змагань, а також науковці з точних наук — фізики, математики — тобто ті, хто отримує найбільше задоволення саме від розв’язання задач. Найближчим другом Ордена фон Неймана вважається Орден Поппера, й між ними нерідко відбувається «міграція» учасників.

У Цивілізації часто кажуть: «немає нічого кращого для Ордена Поппера, ніж хороший фон-нейманіанець». Часто найрозумніші люди, які прагнуть зосередитися винятково на загостренні свого інтелекту — і більше ні на чому, — обирають саме цей орден.

Головними чеснотами ордену вважаються: загальний інтелект, знання й навички в математиці, швидкість мислення, уміння розв’язувати задачі й головоломки, кмітливість, змагальність.

Неофіційне гасло ордену:
“Shut up and calculate.”
…

Орден Сагана

Орден Сагана виник останнім — у 90-х роках. Він вирізняється серед всіх орденів і низкою інших рис. По-перше, це єдиний орден, названий на честь ще живої особи (хоча і сам Саган, і багато інших були проти такого рішення). По-друге, у певному сенсі він вважається «найнижчим» серед орденів за своїм реальним впливом і могутністю. Але по-третє — й на противагу попередньому — члени Ордена Сагана часто користуються найбільшою повагою й симпатією з боку представників усіх інших орденів. І, нарешті, по-четверте — у Ордені Сагана немає Верховного Магістра, а всі керівні операційні рішення ухвалює Верховна Рада.

Орден Сагана — для тих, для кого пізнання є насамперед способом побачити красу світу й насолодитися нею. Для тих, хто займається наукою не заради користі, слави чи досягнень, а тому, що «по-перше, це красиво». Часто членами ордену стають представники фундаментальних і «відсторонених» від побуту наук — скажімо, геологи, ботаніки або астрономи. Якщо хтось щось спостерігає або класифікує — скоріш за все, він із Ордена Сагана.

Члени Ордена Сагана — добрі друзі для будь-якого іншого ордену, і той, хто образить саганіанця, не буде бажаним гостем ніде. Ще у Цивілізації популярна порада:
«Шукай собі друга чи колегу в будь-якому ордені, але якщо хочеш справжнього, чистого кохання — шукай в Ордені Сагана».

Головними чеснотами ордену вважаються: щирість, інтелектуальна чесність, скромність, любов до науки й пізнання, естетика, самовідданість, безкорисливість, пристрасть до справи.

Неофіційне гасло ордену:
“Lo and behold the beauty of the world.”

Ось що я подумав про це зараз.

Згадайте, science bros, як деякі з нас, коли нам було 14 років, казали щось типу «кохання не існує, бо це еволюційна адаптація/хімічні реакції».

Здається, що твердження «ЛЛМ не думають, бо це результат тренування на передбаченні тексту» є чимось схожим.

Це можна назвати когнітивною помилкою «розуміння причини знищує явище» чи «я дізнався причину, відповідно, явища не існує».

ЗБІР!

Дуже прошу підтримати збір для мого чудового друга. Колись, ми познайомилися з ним на МАНі, він був девʼятикласником тоді, а зараз він вже майор, який побував на майже всіх напрямках війни.

Я дуже рідко пишу про збори, бо вважаю, що зазвичай є більш компетентні люди, від яких краще отримувати цю інформацію, але зараз той випадок, коли це необхідно!

https://www.facebook.com/share/1AjY7Z1aPv/?mibextid=wwXIfr

Лол

(Це про те, що статті, які доводять, що ШІ не можуть мислити, можуть однаково довести, що люди не можуть мислити)

Ніхто:

Абсолютно ніхто:

Майже будь-який PhD-студент, коли питаєш у нього, як справи:

Насправді, скоро виходить моя інша книга. Цікаво, чи здогадаєтесь ви, яка - зараз зроблю опитувальник. Мені здається, можна здогадатися, якщо подумати раціонально.

Багато хто з вас проголосував за AI Alignment. Що ж, це сама та ситуація, де писати книгу було б морально приємно, але по суті марно. Я і близько не має достатньо знань та інтелекту, щоб бути хоча б мінімально впевненим, що я роблю якийсь мінімально правильний та одночасно оригінальний ревью галузі алайнменту, тим більше пропонувати чи порівнювати рішення чи напрямки досліджень. Набагато більш розумні люди витратили набагато більше зусиль, і в них нічого не вийшло.

Юдковський не зміг нічого зробити!

Пол Крістіано не зміг нічого зробити! Тобто, надзвичайно складні і багатоступеневі схеми Крістіано теоретично можуть спрацювати, якщо їх хтось застосує на практиці, але по-перше, ніхто не застосує їх на практиці, а по-друге, консенсус скоріше тяжіє до того, що вони не спрацюють, навіть якщо застосувати їх в усій повноті.

Скот Ааронсон не зміг нічого зробити!

Сатскевер, один з головних творців сучасного ШІ, який перебуває у найбільш продуктивному віці та має буквально мільярди доларів, не зміг (принаймні поки) нічого зробити!

Тому, в тому числі, я і не приєднався досі до жодної AI safety організації full-time. Я можу робити і роблю певні точкові дослідження з дуже конкретних вузько визначених питань, але робити огляди, задавати стратегії - ні!

Треба знати, що ти знаєш і що ти не знаєш.

The Ring cannot be destroyed by any craft that we here possess.

Shut it all down.

Що стосується усіх інших книжок, то опитування було ускладнене тим, що я дійсно пишу усі ці книжки (окрім AI Risks Explainer, бо по цьому теж є вже дуже гарні матеріали), просто повільно, і вони всі дуже в моєму стилі, тому можна зрозуміти, якщо ви обрали будь-яку з них.

Проте, є одна тема, терміновість якої є критичною. Тема, де кожен день на рахунку і де, на мій погляд, можна зробити реальний, важливий прогрес. Яку не можна відкладати. Я неодноразово писав про це на каналі.

BIOLOGICAL FOUNDATION MODELS!
SINGLE-CELL FOUNDATION MODELS MECHANISTIC INTERPRETABILITY!
FINE-TUNING FOUNDATION MODELS!
MODELS DISTILLATION!

I mean, the amount of time spent pondering all the regulatory and signaling networks is, sadly, astonishing.

Я роблю велику ставку на велетенські трансформери для біології. Я думаю, we are onto something. Це все не пояснити в двох словах, і в трьох, і власне тому я і написав книгу. Вона є одночасно науковим ревью, підручником, програмою досліджень та маніфестом.

Це та сфера, де силу штучного інтелекту можна використати на благо людства і навіть, потенційно, зробити внесок в те, щоб врятувати всіх від misaligned superintelligence. У мене є доволі конкретне бачення, що можна зробити. Може, воно не спрацює, але треба робити ставку.

Закони масштабування, ентропія біологічних даних, механістична інтерпретабельність, «гіркий урок» Саттона, генералізація моделей - це все вибудувалося в моїй голові в єдину картину, і настав час розповісти про це.

Також, мені здається, що біологи/біоінформатики, в цілому, недооцінюють потенціал цих моделей, а ШІ-вчені та інженери інколи не бачать, що вони можуть займатися чимось набагато більш корисним, ніж ЛЛМками, і це теж можна і треба виправити.

https://youtu.be/BOWWWbsZwTk?si=8ZPV8lR_C-l6_7cB

Не знаю чому, але так за душу бере це відео! Здавалося б, просто нарізка видатних вчених і популяризаторів. Ну, і Мітіо Каку.

https://youtu.be/gA4GxTQtrKw?si=WkhCJzAYSfBNxIhw

Так!

Поступово повертаються до повноцінного біохакерського режиму. Давно не почував себе так добре і продуктивно. Дуже сильно збив режим спочатку через війну, потім через ШІ, але це було нераціонально. Це була слабкість.

Настрій був на цей рахунок щось типу «та яка вже різниця». Але різниця є!

Якщо хочеш допомогти найбільш ефективно, то повинен бути в найкращій формі.

Я можу надавати які завгодно виправдання та аргументацію, але думаю, найбільш чесно буде сказати, що це була слабкість і негідність. І дуже добре виправити це.

Буду інколи писати на цю тему з особистого досвіду та з тих досліджень, що бачу.

Біохакінг, «рутини» та добавки - це тема доволі суперечлива, і в деяких від неї бомбить вона викликає інколи справедливий скепсис. Ми торкнемося, з часом, і суперечливих речей.
Але я почну з однієї, на мій погляд, абсолютно несуперечливоі, простої, легкої, але дуже важливої речі.

Швидкі вуглеводи!

Просто приберіть швидкі вуглеводи з їжі! У звичайних умовах життя, вони не роблять нічого корисного взагалі, і лише роблять шкоду, причому одразу по купі напрямків! Я не знаю жодного бодай мінімально валідного свідчення, що є якісь плюси у споживанні швидких вуглеводів. Ну, вочевидь вони дають енергію, але будь-яка їжа дає енергію. І, звичайно, є особливі ситуації, такі як hypoglemlic emergency унаслідок операцій чи нещасних випадків, але тоді вам цукор введуть в реанімації і без вас. Є специфічні хвороби. І є «вуглеводне вікно» після важких силових тренувань. Але якщо у вас нема якоїсь особливої хвороби, якщо вас не очікує якась особлива операція, або якщо ви не тренуєтесь на Mr. Olympia, то швидкі вуглеводи не потрібні.

Одне лише прибирання зайвих швидких вуглеводів з їжі без жодних інших інтервенцій є кроком, який покращує практично будь-який аспект здоровʼя та продуктивності.

Якщо у когось є інші дані на цей рахунок, то пропоную поділитися в коментарях. Мені справді цікаво, чи є якісь свідчення в інший бік.