Alignment consists of three things:
1. Do what I want - 90 per cent for current LLM
2. Don't do what I don't want. 90 per cent for now
3. Don't have catastrophic failures. Oracle AIs - and current LLMs are oracles - rarely have catastrophic modes by design, except a few cases of affecting suicide risk. But for self-driving cars AI this is the main requirement.
TLDR: we are safe because chatting is inherently safe.

Изучение старения похоже на изучение промежутков между сломанными костями. Неверный объект исследования. Нужно изучать мехзанизмы стабильности и репарации.

Три типа бессмертия Больцмана:

1. Первый - это простая идея о том, что после моей смерти возникнет Мозг Больцмана (BB), который представляет мой следующий момент наблюдения, и затем появлдяется ещё один и еще, что сводится к варианту квантового бессмертия. Возможно, с меньшим снижением measure, так как для каждой временной линии будет существовать хотя бы один BB моего следующего момента. Проблема: распад и вечное старение.

2. Идея Мюллера о том, что мы уже являемся BB и другой жизни нет. Он также предполагает некий тип бессмертия, но больше похожий на respawmning - проживание альтернативных вариантов того же дня но без события смерти.

3. Версия Грега Игана: Мы создаем и запускаем программу-зерно, которая может а) симулировать сознания в контролируемой среде и б) эволюционировать, становясь больше в вычислительном пространстве - а затем выключаем её. Однако эта программа-зерно имеет следующие состояния в мире BB и продолжает эволюционировать. У этой программы нет естественных начальных состояний, поэтому она может быть только искусственной, что предотвращает некоторые плохие исходы. Наши симуляции живут внутри этой программы. Это предотвращает распад и вечное старение, так как программа контролирует среду симуляции.

тест из лема на o1 pro:
Грозный генька-генератор громко грыз горох горстями,
Гениальный, глупый, грубый, гадкий голем гаремом гордился, гусиными глетами горцовал,
Гравированные гробы гульденов Гурдеброда горой громоздились,
Грандиозные грады гулко глядели, голем годами гробил, губил, гнобил…

Ждем всех на нашем воскресном стриме!
22 декабря в 16:00 по Мск!
http://youtube.com/nozp1

Вместе с известным московским футурологом Алексеем Турчиным мы обсудим последние события на стыке уфологии и футурологии, всплеск наблюдений НЛО по всему миру, а также авторскую гипотезу Алексея о соседствующей рядом с нами неизвестной форме жизни, которую мы идентифицируем как неопознанные летающие объекты. Подробнее с гипотезой Алексея можно ознакомиться по ссылке (русская версия через гугл или яндекс переводчики):
https://www.lesswrong.com/posts/PLzantdwa8XJMLKef/grabby-animals-observation-selection-effects-favor-the

Алексей Турчин — футуролог, основатель проекта Digital Immortality Now, соавтор книги «Футурология: XXI век: бессмертие или глобальная катастрофа?» и автор телеграм канала "Бессмертие или глобальная катастрофа?".

Вести эфир будут Георгий Федоровский и Михаил Герштейн.

Следите за обновлениями и подписывайтесь на наш ютьюб канал и телеграм, если еще не сделали этого!

http://youtube.com/nozp1
http://www.group-telegram.com/rsarp_osai
http://www.group-telegram.com/unexmeet

Поддержать нас всегда можно по ссылке:
https://yoomoney.ru/to/41001360887363

OpenAI o3 Breakthrough High Score on ARC-AGI-Pub
OpenAI's new o3 system - trained on the ARC-AGI-1 Public Training set - has scored a breakthrough 75.7% on the Semi-Private Evaluation set at our stated public leaderboard $10k compute limit. A high-compute (172x) o3 configuration scored 87.5%.


This is a surprising and important step-function increase in AI capabilities, showing novel task adaptation ability never seen before in the GPT-family models. For context, ARC-AGI-1 took 4 years to go from 0% with GPT-3 in 2020 to 5% in 2024 with GPT-4o. All intuition about AI capabilities will need to get updated for o3.

я так понял, что лучшие результаты были при расходах в 172 раза больше, чем 17 долларов за задачу. то есть 3000 долларов за вопрос примерно.

Note: OpenAI has requested that we not publish the high-compute costs. The amount of compute was roughly 172x the low-compute configuration.

Необходимые условия для составления исполнимого плана: стабильная среда и свободный ресурс

миллер в твиттере: For much of my life I mourned the passing of time as bringing me closer to death. But now my selfish goal is to survive long enough for AI to either end disease and aging or kill us all, and every day that passes brings me closer to this goal and extends my expected lifespan. 2028 might be enough to get self-improving AIs where the best coders and AI researchers are all AI. After that Foom, alignment by default, alignment by extreme luck, or death. https://x.com/JimDMiller/status/1870535858031665444

большинство до старения не доживало, поэтому его эволюционные объяснения бессмысленны. а осмыслены объснения самой продолжительности жизни.

Старение - это привелегия apex predator. Остальных съедают как только чуть медленнее стали бегать. Но в зоопарке они конечно будут стареть

У человека только есть фенотип старости - мало ходит, много говорит с 60 до 80 лет и его функция - быть ходящим жестким диском для культурного опыта

Мы в эфире!
Ютьюб:
https://www.youtube.com/watch?v=qNQ644Z1sGg&ab_channel=NOZP
Вконтакте:
https://vk.com/video-132878466_456239041