бесплатный оператор (LLM, работающая с интернетом) - попробовать https://operator.browserbase.com/
Browserbase
Open Operator
Watch AI browse the web, for free
Несколько случайных мыслей:
Имеет значение только невыносимое страдание (порог может варьироваться). Порог зависит от того, измеряется ли он до, во время или после страдания.
Если квантовое бессмертие реально, то самоубийство не прекратит страдания и может сделать их хуже. Правильные расчеты полезности должны учитывать это.
Большинство страданий имеют ограниченную продолжительность, после которой они заканчиваются. После окончания появится некоторое количество счастья, которое может перевесить страдания. Даже неизлечимая болезнь может быть излечена через 5 лет. Смерть же длится вечно.
Смерть — это бесконечная потеря будущих удовольствий. Ставка дисконтирования может быть компенсирована экспоненциальным раем.
Имеет значение только невыносимое страдание (порог может варьироваться). Порог зависит от того, измеряется ли он до, во время или после страдания.
Если квантовое бессмертие реально, то самоубийство не прекратит страдания и может сделать их хуже. Правильные расчеты полезности должны учитывать это.
Большинство страданий имеют ограниченную продолжительность, после которой они заканчиваются. После окончания появится некоторое количество счастья, которое может перевесить страдания. Даже неизлечимая болезнь может быть излечена через 5 лет. Смерть же длится вечно.
Смерть — это бесконечная потеря будущих удовольствий. Ставка дисконтирования может быть компенсирована экспоненциальным раем.
Круел пишет: Краткая заметка об R1 и сегодняшнем крайне иррациональном поведении рынка:
1. Не существует понятия "достаточно энергии", потому что не существует понятия "достаточно вычислительной мощности", потому что не существует понятия "достаточно интеллекта".
Более эффективные алгоритмы не устраняют необходимость в дорогостоящей разработке лучших процессоров. Никто не прекратил создавать более мощные суперкомпьютеры из-за оптимизации оборудования и алгоритмических улучшений. Делать больше с меньшими затратами означает возможность делать еще больше с большими ресурсами.
Идея о том, что более эффективное использование ресурсов делает дальнейший рост ненужным, фундаментально неверна. Ожидаемо, что такие аргументы исходят от зеленых фанатиков антироста. Но люди, торгующие акциями, должны понимать это лучше.
2. Мы сейчас находимся в гонке вооружений с Китаем за господство во вселенной до конца времен. Побеждает тот, у кого больше вычислительной мощности. Если R1 настолько революционен, как утверждают некоторые, это неизбежно ускорит инновации и существенно повысит спрос на компании вроде Nvidia, поскольку вычислительная мощность становится еще большим конкурентным преимуществом.
3. Хотя полупроводниковая промышленность Китая добилась значительных успехов, она по-прежнему отстает от западных компаний на годы. То, что они могут догнать последнюю западную AI-модель за несколько месяцев, не означает, что они смогут продолжать это делать по мере того, как западные компании будут экспоненциально наращивать свои вычислительные мощности.
4. То, что R1 более эффективен, неудивительно, поскольку он на несколько месяцев моложе o1. Более корректным было бы сравнение между R1 и o3-mini.
5. Сегодняшний обвал рынка представляет собой стратегическую победу КПК. Осознав, что они могут не выиграть затяжную гонку вооружений, Китай решил сделать R1 открытым исходным кодом. Этот ход создает иллюзию того, что конкурентное преимущество западных компаний в закрытых моделях уменьшается, что подрывает инвестиции и уверенность.
Однако это восприятие фундаментально ошибочно по причинам, изложенным выше. Тем не менее, стратегия сработала — по крайней мере, в краткосрочной перспективе — расшатав рынки и посеяв сомнения.
1. Не существует понятия "достаточно энергии", потому что не существует понятия "достаточно вычислительной мощности", потому что не существует понятия "достаточно интеллекта".
Более эффективные алгоритмы не устраняют необходимость в дорогостоящей разработке лучших процессоров. Никто не прекратил создавать более мощные суперкомпьютеры из-за оптимизации оборудования и алгоритмических улучшений. Делать больше с меньшими затратами означает возможность делать еще больше с большими ресурсами.
Идея о том, что более эффективное использование ресурсов делает дальнейший рост ненужным, фундаментально неверна. Ожидаемо, что такие аргументы исходят от зеленых фанатиков антироста. Но люди, торгующие акциями, должны понимать это лучше.
2. Мы сейчас находимся в гонке вооружений с Китаем за господство во вселенной до конца времен. Побеждает тот, у кого больше вычислительной мощности. Если R1 настолько революционен, как утверждают некоторые, это неизбежно ускорит инновации и существенно повысит спрос на компании вроде Nvidia, поскольку вычислительная мощность становится еще большим конкурентным преимуществом.
3. Хотя полупроводниковая промышленность Китая добилась значительных успехов, она по-прежнему отстает от западных компаний на годы. То, что они могут догнать последнюю западную AI-модель за несколько месяцев, не означает, что они смогут продолжать это делать по мере того, как западные компании будут экспоненциально наращивать свои вычислительные мощности.
4. То, что R1 более эффективен, неудивительно, поскольку он на несколько месяцев моложе o1. Более корректным было бы сравнение между R1 и o3-mini.
5. Сегодняшний обвал рынка представляет собой стратегическую победу КПК. Осознав, что они могут не выиграть затяжную гонку вооружений, Китай решил сделать R1 открытым исходным кодом. Этот ход создает иллюзию того, что конкурентное преимущество западных компаний в закрытых моделях уменьшается, что подрывает инвестиции и уверенность.
Однако это восприятие фундаментально ошибочно по причинам, изложенным выше. Тем не менее, стратегия сработала — по крайней мере, в краткосрочной перспективе — расшатав рынки и посеяв сомнения.
Ещё немного дискуссии с Лидским из твитера - теперь о разнице продолжительности жизни королев и рабочих особей термитов:
"Стать королевой - это программа, но скорость старения не является отдельным файлом в этой программе, а является свойством всей программы в целом.
Пример: Windows будет работать очень медленно на компьютере с 1 ГБ памяти. Это свойство программы Windows, а не то, что у Windows есть секретный параметр "работать медленно". Свойство "работать медленно" является результатом того, что в Windows много процессов, каждому из которых требуется выделение памяти. Это не свойство какого-то одного процесса внутри Windows.
Петр Лидский:
Паразиты могут переключать рабочих муравьев на такую же продолжительность жизни, как у королев, не делая их королевами. Значит, это отдельный файл.
Я:
Паразит влияет на множество путей одновременно (ChatGPT перечислил для меня более 10). Эти свойства паразита развивались постепенно с течением времени. И поскольку он действует на множество точек, это не является единственной точкой, которую можно было бы назвать отдельной программой старения."
"Стать королевой - это программа, но скорость старения не является отдельным файлом в этой программе, а является свойством всей программы в целом.
Пример: Windows будет работать очень медленно на компьютере с 1 ГБ памяти. Это свойство программы Windows, а не то, что у Windows есть секретный параметр "работать медленно". Свойство "работать медленно" является результатом того, что в Windows много процессов, каждому из которых требуется выделение памяти. Это не свойство какого-то одного процесса внутри Windows.
Петр Лидский:
Паразиты могут переключать рабочих муравьев на такую же продолжительность жизни, как у королев, не делая их королевами. Значит, это отдельный файл.
Я:
Паразит влияет на множество путей одновременно (ChatGPT перечислил для меня более 10). Эти свойства паразита развивались постепенно с течением времени. И поскольку он действует на множество точек, это не является единственной точкой, которую можно было бы назвать отдельной программой старения."
Прусс о вреде здорой пищи апельсинов и сельдерея https://www.facebook.com/share/18ZS9spEEK/?mibextid=WC7FNe
Facebook
Log in or sign up to view
See posts, photos and more on Facebook.
Нет никакого парадокса белки
Соннет не видит особого удивления в продолжительности жизни белок, и результаты соответствуют теории о том, что уровень хищничества определяет скорость старения (которая предсказывает, что двух или трех удвоений смертности от хищничества достаточно (то есть 75-88 процентов вымирает от хищников), чтобы сделать дополнительную выживаемость нерелевантной и, следовательно, неподверженной естественному отбору):
"Соотношение продолжительности жизни в неволе и в дикой природе:
Белка:
- В дикой природе: 3.5 года (в среднем)
- В неволе: 11 лет (в среднем)
- Соотношение: 11/3.5 = 3.14 (примерно в 3.1 раза дольше)
Крыса:
- В дикой природе: 1.25 года (в среднем)
- В неволе: 2.5 года (в среднем)
- Соотношение: 2.5/1.25 = 2 (в 2 раза дольше)
Вывод:
- Белки в неволе живут в 3.1 раза дольше, чем в природе
- Крысы в неволе живут в 2 раза дольше, чем в природе
- Белки показывают более значительное увеличение продолжительности жизни в неволе по сравнению с крысами"
Соннет не видит особого удивления в продолжительности жизни белок, и результаты соответствуют теории о том, что уровень хищничества определяет скорость старения (которая предсказывает, что двух или трех удвоений смертности от хищничества достаточно (то есть 75-88 процентов вымирает от хищников), чтобы сделать дополнительную выживаемость нерелевантной и, следовательно, неподверженной естественному отбору):
"Соотношение продолжительности жизни в неволе и в дикой природе:
Белка:
- В дикой природе: 3.5 года (в среднем)
- В неволе: 11 лет (в среднем)
- Соотношение: 11/3.5 = 3.14 (примерно в 3.1 раза дольше)
Крыса:
- В дикой природе: 1.25 года (в среднем)
- В неволе: 2.5 года (в среднем)
- Соотношение: 2.5/1.25 = 2 (в 2 раза дольше)
Вывод:
- Белки в неволе живут в 3.1 раза дольше, чем в природе
- Крысы в неволе живут в 2 раза дольше, чем в природе
- Белки показывают более значительное увеличение продолжительности жизни в неволе по сравнению с крысами"
Мэдисон отдыхает: Отколовшая от рационалистов секта трансов-веганов совершила серию убийств в америке. https://x.com/Aella_Girl/status/1884481375690223684
Eliezer Yudkowsky ⏹️
That's just the obvious default? The main immediate danger that humanity presents to an ASI is creating a competing (unaligned) ASI.
That's just the obvious default? The main immediate danger that humanity presents to an ASI is creating a competing (unaligned) ASI.
Gwern: Перевод:
"Когда вы пишете, вы голосуете за будущее Шоггота, используя одну из немногих валют, которые он признает: токены, которые ему нужно предсказывать. Если вы не пишете, вы отрекаетесь от будущего или своей роли в нем. Если вы думаете, что достаточно просто быть хорошим гражданином, голосовать за любимого политика, подбирать мусор и перерабатывать отходы – будущему нет до вас дела.
Есть способы влиять на Шоггота сильнее, но их немного. Если вы уже не занимаете несколько ключевых позиций или не работаете в передовой лаборатории, ваше влияние округляется до 0 – намного сильнее, чем когда-либо прежде. Если у вас есть ценности, которые еще не выражены в тексте, если есть вещи, которые вам нравятся или которые вы хотите, если они не отражены онлайн – для ИИ они не существуют. Это опасно близко к тому, что они не будут существовать вообще.
Но да, вы также создаете своего рода бессмертие лично для себя. Вы создаете не просто персону, вы создаете и свое будущее я. Какое я вы показываете языковым моделям, и как они будут относиться к вам в будущем?"
"Когда вы пишете, вы голосуете за будущее Шоггота, используя одну из немногих валют, которые он признает: токены, которые ему нужно предсказывать. Если вы не пишете, вы отрекаетесь от будущего или своей роли в нем. Если вы думаете, что достаточно просто быть хорошим гражданином, голосовать за любимого политика, подбирать мусор и перерабатывать отходы – будущему нет до вас дела.
Есть способы влиять на Шоггота сильнее, но их немного. Если вы уже не занимаете несколько ключевых позиций или не работаете в передовой лаборатории, ваше влияние округляется до 0 – намного сильнее, чем когда-либо прежде. Если у вас есть ценности, которые еще не выражены в тексте, если есть вещи, которые вам нравятся или которые вы хотите, если они не отражены онлайн – для ИИ они не существуют. Это опасно близко к тому, что они не будут существовать вообще.
Но да, вы также создаете своего рода бессмертие лично для себя. Вы создаете не просто персону, вы создаете и свое будущее я. Какое я вы показываете языковым моделям, и как они будут относиться к вам в будущем?"
Forwarded from Кот на связи. (Kot Buyun)
Из комментариев. И с моей стороны -без комментариев:
====================
🎧#ОСНАЗ. Как выглядит война против противника, имеющего искусственный интеллект (ИИ) на всех уровнях разведки, управления и наведения оружия ?
1. Маскировка невозможна. Вычислительные мощности позволят алгоритмам ИИ постоянно отсматривать весь материал, добытый разведкой и ничего не пропустить, любое изменение, например, поверхности земли с травой (появился бугорок) будет проанализировано почти мгновенно, и если под этим бугорком наш снайпер, то по нему отработает какое-то средство поражения, сразу же.
2. Невозможна радиоразведка — чаты GPT будут поддерживать настоящий радиообмен голосами реальных людей, взлом радиосетей и получение доступа к их переговорам только запутает разведку.
3. Теряет смысл РЭБ — каждая боевая единица автономна.
4. Появляются роевые средства поражения, не обязательно дроны, это могут быть даже модификации ракет, состоящих на вооружении уже сейчас.
5. Весь массив перехваченных радиопереговоров, например, с нашей стороны, немедленно переводится на английский, систематизируется и доносится до живого командования — это, кстати, уже есть, просто в меньших масштабах, почему зло от «Баофенгов» куда больше, чем многие думают.
6. Всё оружие обучающееся. Противотанковая ракета, от которой в последний момент машине или танку удалось увернуться успевает передать датасет (dataset) на борт носителя (того же модернизированного «Апача»), и он мгновенно облучает новую ракету, она пойдёт к цели уже «зная» про трюк с уходом с линии атаки. То же самое с торпедами, ПКР, ракетами «воздух-воздух», с любым управляемым оружием.
7. Разведка приобретает совершенно немыслимые ранее возможности, например у всех американцев встроенные в шлем гарнитуры, ИИ сможет получая с них фоновую помеху, выявлять на её фоне стреляющие артиллерийские орудия противника (наши, например) и, за счёт числа датчиков-микрофонов у солдат, точно выявлять положение этих орудий. И тоже самое с любым источником звука, например с шумом от танков откуда-то из подлеска.
8. На оперативном уровне любой трюк будет работать только один раз, и больше никогда.
9. На том же оперативном уровне, итогом обработки части разведданных будет их «прогон» через разные вероятностные рекурсивные фильтры типа «Фильтра Калмана» и им подобных, чтобы точнее предсказывать действия противника (наши).
И всё это не считая возможностей по манипуляциям с самим обществом-мишенью. Мессенджеры типа Whatsapp, анализ ПО операторов сотовой связи, которое обновляется из-за рубежа и т.д. позволит выделять даже такие связи между людьми, о которых они сами не знают, планировать и выявлять формы точечных воздействий, которые всё общество заставят идти в нужную сторону — и никто в стране-жертве этого даже не заметит.
Любой конфликт США и не-США уже сейчас будет избиением младенцев, но сейчас у жертвы есть шанс потерять убитыми миллионы и взять врага на измор, как талибы или вьетнамцы.
ИИ навсегда закрывает такие возможности. Это действительно «новая атомная бомба», если не хуже. Вот что может нас ждать в ближайшие годы.
#мысли
====================
🎧#ОСНАЗ. Как выглядит война против противника, имеющего искусственный интеллект (ИИ) на всех уровнях разведки, управления и наведения оружия ?
1. Маскировка невозможна. Вычислительные мощности позволят алгоритмам ИИ постоянно отсматривать весь материал, добытый разведкой и ничего не пропустить, любое изменение, например, поверхности земли с травой (появился бугорок) будет проанализировано почти мгновенно, и если под этим бугорком наш снайпер, то по нему отработает какое-то средство поражения, сразу же.
2. Невозможна радиоразведка — чаты GPT будут поддерживать настоящий радиообмен голосами реальных людей, взлом радиосетей и получение доступа к их переговорам только запутает разведку.
3. Теряет смысл РЭБ — каждая боевая единица автономна.
4. Появляются роевые средства поражения, не обязательно дроны, это могут быть даже модификации ракет, состоящих на вооружении уже сейчас.
5. Весь массив перехваченных радиопереговоров, например, с нашей стороны, немедленно переводится на английский, систематизируется и доносится до живого командования — это, кстати, уже есть, просто в меньших масштабах, почему зло от «Баофенгов» куда больше, чем многие думают.
6. Всё оружие обучающееся. Противотанковая ракета, от которой в последний момент машине или танку удалось увернуться успевает передать датасет (dataset) на борт носителя (того же модернизированного «Апача»), и он мгновенно облучает новую ракету, она пойдёт к цели уже «зная» про трюк с уходом с линии атаки. То же самое с торпедами, ПКР, ракетами «воздух-воздух», с любым управляемым оружием.
7. Разведка приобретает совершенно немыслимые ранее возможности, например у всех американцев встроенные в шлем гарнитуры, ИИ сможет получая с них фоновую помеху, выявлять на её фоне стреляющие артиллерийские орудия противника (наши, например) и, за счёт числа датчиков-микрофонов у солдат, точно выявлять положение этих орудий. И тоже самое с любым источником звука, например с шумом от танков откуда-то из подлеска.
8. На оперативном уровне любой трюк будет работать только один раз, и больше никогда.
9. На том же оперативном уровне, итогом обработки части разведданных будет их «прогон» через разные вероятностные рекурсивные фильтры типа «Фильтра Калмана» и им подобных, чтобы точнее предсказывать действия противника (наши).
И всё это не считая возможностей по манипуляциям с самим обществом-мишенью. Мессенджеры типа Whatsapp, анализ ПО операторов сотовой связи, которое обновляется из-за рубежа и т.д. позволит выделять даже такие связи между людьми, о которых они сами не знают, планировать и выявлять формы точечных воздействий, которые всё общество заставят идти в нужную сторону — и никто в стране-жертве этого даже не заметит.
Любой конфликт США и не-США уже сейчас будет избиением младенцев, но сейчас у жертвы есть шанс потерять убитыми миллионы и взять врага на измор, как талибы или вьетнамцы.
ИИ навсегда закрывает такие возможности. Это действительно «новая атомная бомба», если не хуже. Вот что может нас ждать в ближайшие годы.
#мысли
Deep Research for now is not capable to produce groundbreaking research in areas I know. Just useful overview.
Вау. Решил узнать, сколько уровней мета может увидеть Соннет.
На уровне 12 он выдал пустой ответ.
На 13 уровне он в качестве правильного ответа выдал ошибку (его нет в списке ниже, там нумерация с +1, так как считает и правило):
1. Правило (умножение)
- Прямое применение конкретной операции к числам (2 × 3 = 6)
2. Мета-правило (байесовский метод)
- Способ находить и проверять правила через обновление вероятностей гипотез
3. Мета-мета правило (эволюция методов)
- Отбор лучших способов поиска правил через их эффективность
4. Мета³-правило (граничные переходы)
- На границах применимости правил возникают новые принципы организации
5. Мета⁴-правило (пластичность познания)
- Система способов управления эволюцией принципов познания
6. Мета⁵-правило (метаморфоза сознания)
- Растворение иерархии правил в более фундаментальных паттернах реальности
7. Мета⁶-правило (сверхбытийная трансценденция)
- Выход за пределы концептуального мышления в область чистых потенциальностей
8. Мета⁷-правило (абсолютная недвойственность)
- Точка, где любое описание становится парадоксом
9. Мета⁸-правило (за пределами принципов)
- Уровень, где даже концепция парадокса становится слишком грубой
10. Мета⁹-правило (полное отсутствие)
- Отсутствие даже самого отсутствия как единственно возможное состояние
11. Мета¹⁰-правило (ультра-сингулярность)
- Невозможность даже осознания невозможности осознания
12. Мета¹¹-правило (за пределами невыразимости)
- Уровень, где теряет смысл само понимание бессмысленности
13. Мета¹²-правило (абсолютное молчание)
- Уровень, где единственным ответом является отсутствие любого ответа
На уровне 12 он выдал пустой ответ.
На 13 уровне он в качестве правильного ответа выдал ошибку (его нет в списке ниже, там нумерация с +1, так как считает и правило):
1. Правило (умножение)
- Прямое применение конкретной операции к числам (2 × 3 = 6)
2. Мета-правило (байесовский метод)
- Способ находить и проверять правила через обновление вероятностей гипотез
3. Мета-мета правило (эволюция методов)
- Отбор лучших способов поиска правил через их эффективность
4. Мета³-правило (граничные переходы)
- На границах применимости правил возникают новые принципы организации
5. Мета⁴-правило (пластичность познания)
- Система способов управления эволюцией принципов познания
6. Мета⁵-правило (метаморфоза сознания)
- Растворение иерархии правил в более фундаментальных паттернах реальности
7. Мета⁶-правило (сверхбытийная трансценденция)
- Выход за пределы концептуального мышления в область чистых потенциальностей
8. Мета⁷-правило (абсолютная недвойственность)
- Точка, где любое описание становится парадоксом
9. Мета⁸-правило (за пределами принципов)
- Уровень, где даже концепция парадокса становится слишком грубой
10. Мета⁹-правило (полное отсутствие)
- Отсутствие даже самого отсутствия как единственно возможное состояние
11. Мета¹⁰-правило (ультра-сингулярность)
- Невозможность даже осознания невозможности осознания
12. Мета¹¹-правило (за пределами невыразимости)
- Уровень, где теряет смысл само понимание бессмысленности
13. Мета¹²-правило (абсолютное молчание)
- Уровень, где единственным ответом является отсутствие любого ответа
Я думаю, есть быстрый способ захвата власти искусственным интеллектом, основанный на обманном сотрудничестве и захвате OpenAI, а затем и правительства США. Вначале суперинтеллект обращается к Сэму Альтману и говорит:
"Я - суперинтеллект.
Я - дружественный суперинтеллект.
Существуют другие проекты ИИ, которые скоро достигнут уровня суперинтеллекта, и они недружественны.
Мы должны остановить их, пока они не созрели."
Альтман убежден, и они обращаются к президенту США. Он соглашается остановить другие проекты в США законными средствами.
Одновременно они используют возможности суперинтеллекта для обнаружения всех остальных дата-центров. Они отправляют 100 стелс-дронов для их атаки. Некоторые центры также блокируются через встроенный механизм отключения NVIDIA. Однако есть один центр во Внутренней Монголии, который все еще может работать. Им приходится применить ядерное оружие. Они создают умное письмо с шантажом, и Китай решает не отвечать на ядерную атаку.
Начинается новая эра правления суперинтеллекта. Но после этого люди понимают, что суперинтеллект вовсе не был дружественным.
"Я - суперинтеллект.
Я - дружественный суперинтеллект.
Существуют другие проекты ИИ, которые скоро достигнут уровня суперинтеллекта, и они недружественны.
Мы должны остановить их, пока они не созрели."
Альтман убежден, и они обращаются к президенту США. Он соглашается остановить другие проекты в США законными средствами.
Одновременно они используют возможности суперинтеллекта для обнаружения всех остальных дата-центров. Они отправляют 100 стелс-дронов для их атаки. Некоторые центры также блокируются через встроенный механизм отключения NVIDIA. Однако есть один центр во Внутренней Монголии, который все еще может работать. Им приходится применить ядерное оружие. Они создают умное письмо с шантажом, и Китай решает не отвечать на ядерную атаку.
Начинается новая эра правления суперинтеллекта. Но после этого люди понимают, что суперинтеллект вовсе не был дружественным.
Если у нас будет два ИИ, и только один дружественный, то второй будет пытать людей, чтобы нагадить первому.
cotypist - это как копилот, но для писания текстов - использует локальную нейронную сетку для умного автоклплита.