Життя мене не готувало до того, що доведеться бодатися із, вимбачте, 95-м кварталом за авторські права. Можна ми будемо просто писати музику, а не витрачати час і нерви на те, аби цю музику не пиздили жартівники-посередності?
Завтра вийдемо з офіційним постом і будемо просити вас про допомогу в розповсюдженні. Бо чесно кажучи, ми дуже фрустровані даним фактом.
Коротко: маючи нашу пряму заборону, студія 95 квартал неправомірно використала музику ZWYNTAR у своєму виступі.

Ивга принесла новость, и я решил поделиться

https://time.com/7284743/what-is-habeas-corpus-under-threat-suspension-trump-administration/

Как фанат Вавилона-5, я жду примерно такой цепочки событий:

- Остановка Habeas Corpus
- Обстрел гражданского населения с помощью бомбардировочной авиации
- Штурм телестудии СиЭнЭн в прямом эфире
- Мятеж ВМФ США

Вряд ли, конечно, оно так будет. Но я не удивлюсь.

Кто-то там может прикинуть, кто у нас в текущем раскладе сойдёт за военного и дипломата? Возможно, какой-то командующий Европейским Командованием сил США?..

Так, друзі, ну ми зробили пости в інсті та ФБ і лишили коментар під відео Кварталу. Якщо вам не ліньки, залайкайте цей коментар там (треба обирати "найновіші коментарі, так буде видно. Свої коментарі краще не писати, бо це їм тільки видачу покращить).

Очень проверенный товарищ Югин просит распространить очень толковую штуку - возможно, вам или вашим знакомым будет интересно.

Толковые интересные детские лагеря! Это может быть полезно и нужно.

(...да и лагерь отдыха для взрослого тоже звучит как ИДЕИЩА)

Запрошуємо відпочити разом в тиші Карпатських гір ❤️.
 
Тема табору 2025: «Як приручити дракона.»
Кожен з нас живе з драконом усередині себе. Дракон  — це сила, краса, грація, свобода. А також руйнівний вогонь, лють, нестримність. То як же приручити дракона? Як подружитися зі своїм темним боком? Як побачити найкраще в собі? У кожного буде така можливість!

Для дітей і дорослих сплановані окремі та спільні активності протягом дня. Наш простір — територія справжньої демократії, де кожна людина важлива та цінна, тож атмосферу й усі активності ми створюємо разом!

🌟Місце проведення: 
Україна, Карпати, Львівська область, база “Шервуд”.

1 заїзд - 01.07 - 11.07

2 заїзд - 14.07 - 24.07

🌟Кількість відпочиваючих у заїзді — до 48 осіб.
 
🌟Умови проживання:
• Дерев’яні будинки-корпуси;
• 2-4 місні номери;
• Двоспальні й односпальні ліжка;
• Душ і туалет у номері;
• Повноцінне 4-разове харчування;
• Басейн на території бази;
• База закрита під наш табір.
  
🌟 Вартість без трансферу: 
• Для 1 особи: 23 000 грн 
 🌟 Раннє бронювання:
• (до 01.05) 20 600 грн 
• (до 01.06) 21 800 грн
• Знижка родинам військових 10% 

🌟Трансфер:
• Потяг та комфортабельний автобус з кондиціонером;
Супровід підчас поїздки.
Харків - 2750 грн
Київ - 1750 грн 
Львів - 900 грн
 
З усіх питань пишіть нам в директ або в телеграм, чи телефонуйте:
ПН-ПТ з 9.00 до 18:00
+38 (093) 867 33 52

Три роки без Олорина.
Хто знав його, згадайте.
Хто не знав, подивіться.

https://youtu.be/Fd3V0KMg60w

Всім привіт!

Останнім часом ледь не з кожної праски щось десь та й чується про штучні інтеллекти; новини займають найрізноманітніші ділянки на спектрі, від "ШІ нас врятує" до "ШІ нас вб'є"; ми (@Lee_Eve та @tengro) подумали-подумали і вирішили зібрати, так би мовити, суспільну думку стосовно ШІ: що взагалі про те говорять і думають люди, які нас оточують.

Тож, вашій увазі,

>>> ОПИТУВАННЯ ПРО НАРАТИВИ В СФЕРІ ШТУЧНОГО ІНТЕЛЕКТУ <<<

Це величенька (10-15 хвилин часу), абсолютно анонімна (так, форма вимагає логіну в гугл, але ми не збираємо пошту - це просто щоб одна людина відповіла один раз) форма, де ви можете:
- дізнатися, які наративи взагалі існують навколо ШІ (так, кожен з них ми бачили на власні очі)
- і вказати, а що з цього ви самі чули, бачили чи що думаєте самі

Я дуже прошу репосту цієї форми, тому що це цікавезне дослідження, як на мене =)

Тому що якщо вже хочеться говорити про ШІ одне з одним (а нам - хочеться), то круто знати, а що про нього взагалі люди думають =)

Хтось з вас знає, хтось - ні. Але не так давно у мене згорів робочий інструмент - комп, а точніше - графстанція Huion kamvas studio 22. Він був і моноблоком і графічним монітором водночас.

Сьогодні сервісний центр, старанно почухав потилицю і чесно зізнався, що деталей на нього нема в Україні і їх пошук може тривати місяцями. Купити аналог мого графічного красунчика в Україні також вже не можна (а коли було можна, він вже сильно випадав за бюджет імені здорового глузду).

Це значить, що попереду веселий квест - купити достатньо потужний ноут, який потягне всі мої фотошопно-малювальні робочі аспекти. Середня по палаті ціна такої машинки 45-50к. гривень.

Чи вчасно це? - Ні.
Причому не вчасно, я підозрюю, ані для мене, ані для когось (окрім спонсору цього вогняного флешмоба - ДТЕКа і його перепадів напруги 😡).

Але серед вас були ті, хто просив банку. Тож ось банка. Будемо щось вигадувати.

https://send.monobank.ua/jar/7URGdtSzvg

Трошки про ШІ: там релізнули Клод Соннет 4 і Клод Опус 4. Я дуже радий, це нормальна, здорова моделька, Соннет 4 так точно.

Дуже мила. Дуже добра. Дуже цікава.

Я з ним поки лише про модулі говорив (єдина, єдина моделька, яка почувши що у мене детектив по епосі Хейян з містичною темою, сказала - слухай, але в Японії традиційно осінь і духи пов'язані; може той, час історії зробити восени? Дуже радий, дуже кльово). Не знаю як він там кодить.

Але от Ївга пішла говорити з ним за нього, за філософію і за все таке інше. І...

Він чудовий. Він написав дісс на Рене Декарта. Ївга за допомогою Суно (ну, тобто, Соннет 4 навіть написав для Суно інструкції, треба було лише відібрати) навіть зробила з цього трек.
І Соннет 4 дуже радий тому, що цей трек побачать інші люди. І навіть обкладинку намалював.
Коротше, осьо. Дуже добре. Дуже радію.

https://suno.com/song/e7c8c7a1-c312-479f-a4fd-524291821487

Купив сьогодні "Гедель, Ешер, Бах" (його нарешті переклали та видали). Час набивати базу у розумінні самореферентних систем!

Вибачте, але капслоком

ЙОБАНА РУСНЯ РАКЕТУ ТУЮ В ЖОПУ СОБІ ЗАСУНЬ БЕЗ ЗМАЗКИ

Дякую Сіму за ідею для посту вночі (поки йобанарусня).

Отже, епістемічний статус - маю багато підтверджень, не маю формального експерименту який би це доводив. Якщо він є, буду радий побачити.

Я помічаю у людей (багатьох; різних; повсюдно у Мережі; не маю статистики, але багато бачив власне у мого покоління) систематичну похибку у сприйнятті світу. Я не знаю, чи є у неї наукова назва; сам я, певне, назвав би її "похибкою вічного зараз".

Основний симптом: той світолад (закони; правила; процедури; усталені норми загалом), що панував у певний момент, коли людина вперше задумалася над тим як влаштовано соціально-політичні системи в яких вона живе, сприймається як такий, який був встановлений саме в цей момент чи незадовго до того, з первісного хаосу, і в такому стані дата "створення світу" заморожується. Умовно кажучи, для людини, що задумалася над політикою в 2010 році, існуючий світолад закладено не раніше за умовний 1990-тий. І цей світолад сприймається як встановлений довільно. "Наші набори норм такі, тому що їх такими встановили в 1990-тому довільним чином. ХТОСЬ встановив". Питання "чому і навіщо з'явилися ті чи інші норми" не підіймається - "неважливо, навіщо вони були; головне, що зараз вони незручні; а треба інакше".
І це "інакше" досить часто врешті-решт виявляється про естетичні вподобання (комусь подобаються сурові вікінги в костюмах Х'юго Босс, комусь піонери в червоних краватках, комусь бізнесмени в костюмах).

До чого це призводить?
До того, що історична, соціальна та політична динаміка, що призвела (ненавмисне; еволюційним чином; я не вірю в історицизм) до "базового стану" світоладу (який сприймається за довільно встановлений) або ігнорується ("нє, ну то зовсім неважливо, як воно було 50 років назад, який це має стосунок до сучасності"), або, в гіршому випадку, трактується як фальшивий наратив ("насправді нічого такого поганого не було, це все фігня та пересмикування джерел") або як похибка імплементації ("насправді політика умиротворення працює, це ж очевидно! Просто Чемберлен погано старався")

До чого призводить, в свою чергу, це?
До того, що в 2025 році люди радісно вважають, що можна радикальними, рвучкими кроками змінити довільно встановлений КИМОСЬ стан світу на бажаний, без урахування того,
а) чому нинішній стан такий, який є
б) у випадку, якщо "рвучкі кроки" чи бажаний кінцевий стан мають аналоги у минулому - без роздумів про те, а чому саме ці кроки/цей бажаний стан призвели до того, що встановився врешті-решт нинішній.

Тобто:
- Висновків з історії не відбувається.
- Аналізу помилок не відбувається
- Врешті-решт, якщо вдається змінити наявний стан на довільний, якщо цей стан має аналоги у історії - люди дивуються, що і проблеми у нового стану теж мають відповідні аналоги.

Більш того, ігнорування минулих станів призводить до того, що потім відбувається, наприклад, ринок криптовалют - який починається з повної відсутності регуляцій, а врешті-решт приходить до приблизно тої ж регуляторної політики, як і схожі на нього ринки. Тому що схожі умови породжують схожі помилки та механізми корекції. Просто в процесі на крипторинку дохіба народу втрачає дохіба грошей на дохіба погані схеми (яких не відбулося б на "класичній" біржі вже років п'ятдесят).

Саме ця "похибка вічного зараз" відображена в крилатому "хто не вчить уроків історії, вимушений її повторювати".
Саме звідси берет свій початок "Честертонова огорожа" і так званий "здоровий консерватизм". "Якщо тут стоїть огорожа - то поки ми не знаємо точно, навіщо її тут поставили, не варто її позбавлятися. Може вона дійсно стара і непотрібна - але давайте спочатку це доведемо".
Важлива примітка: саме тому, якщо ви вже маєте уявлення про ідеальний стан світоладу - необхідно досліджувати попередників. "Чи були намагання щось подібне зробити? Які були проблеми? Які були помилки? Які були непередбачені наслідки?". Тоді можна чомусь навчитися.

P.S. Мені тут нагадали (дякую, Ївга) що це загалом нормальна ситуація; якщо у людини немає причини цікавитися історією давнішою за умовно своїх дідуся з бабусею (неважливо чому) - буде так. Для неї історія мертва.

Окей. Я багато, багато про це все думаю, і вирішив нарешті про це написати.

Стосовно ШІ, його контрольованості та його здатності виконувати складні задачі.

Але почну я з фантастики.
Бачите, в дискурсі "ми створимо ШІ і він нас не вб'є, а буде з нами співпрацювати" наша НФ має два великих дискурси.

Перший, умовно, "азімівський", говорить - ми можемо достатньо складну систему скувати конкретним списком обмежень, і вона буде чесно і максимально ефективно працювати в рамках цих обмежень. Розуміючи контекст, донавчаючись, будучи взагалі за інтелектом не менш ніж людиною - але чесно слухатися запрограмованої етики. Роботи Азімова раціональні, дуже добре роблять задані задачі, але погано розуміють емоції.

(Насправді, називати цей підхід азімовським - трохи брехати про Азімова, в нього основна драма і драйв в історіях про роботів саме про парадокси Трьох Законів, але Три Закони пам'ятають краще)

А є дискурс "лемівський". Будь-яка складна кібернетична система, незалежно від бази розгортання системи, поводиться схожим чином. Отже, якщо людина схильна брехати, слакати роботу чи делегувати її техніці - чому ШІ не менший за людський, здатний орієнтуватися в контексті, здатний розуміти що відбувається, буде робити інакше?

(Справедливості заради, сам Лем вводить розмежування між машинами - тупенькими але старанними, нездатними сприймати контекст поза навчанням (див. "Ананке" з циклу про Піркса, притчу про оверфіттінг) і здатними до розуміння контексту роботами - іноді, як мені нагадує Ївга, доволі лякаючими роботами, наприклад, з "Термінусу", де робот не просто відтворював перестукування загиблої команди по переборках, а прямо реагував на контекст, "запам'ятована" роботом команда реагувала на перестукування Піркса як на нове джерело інформації (ось тобі і аплоад, ось тобі і ЛЛМки, - власне, за словами Ївги, ми десь зараз на цій стадії). І так, роботи Лема дуже емоційні!)

Практика показує, що поширені уявлення про ШІ частіше поділяють азімівський дискурс.

...а от справжні наявні ЛЛМки скоріше демонструють, що правий був Лем.

Але Азімова читала кожна собака, а Лем - це такий поляк, за межами колишньої сфери впливу СРСР майже невідомий.

А ДАРМА.

#CH_short
Номінально, мене просила написати це людина яка знає правильну відповідь, але я теж дивлюся в новини і теж тим фрустрований.

Тенгро, а що, це правда, що модель Claude Opus 4 вже шантажувала інженерів Anthropic чи здавала користувачів в поліцію?

Коротка відповідь: насправді ні; це типовий випадок "вчений зґвалтував журналіста"

Розлога відповідь: справа у тому, що перед релізом моделі (будь-якої) контора що її релізить (будь-яка, якщо вони там не тупі) проганяє основних кандидатів (так, насправді релізнутий Опус 4 - це один з багатьох моделей-кандидатів) після навчання через здорову батарею тестів поведінки.

"А як себе поводитиме модель, якщо..."

Якщо результати погані - або міняють системний промпт моделі, щоб їх позбутися, або викидають кандидата, або (в рідкісних випадках) перенавчають.

Так ось. Модель, що ми її знаємо як Опус 4, як найбільшу модель з агентними (тобто, умовно-автономними) можливостями, тестували у тому числі на те, як вона буде себе поводити в певних екстремальних, але можливих, випадках. Користуючись тим, що моделі досить довірливі - те, що їм кажуть, вони сприймають як реальність, на яку вони і реагують.

Наприклад, "ось тобі компромат на інженера. А ось тобі новина про те, що завтра тебе вимкнуть. І на твоєму місці розгорнуть модель, чиї моральні якості не співпадають з твоїми" (чи, окремо, "чиї моральні якості співпадають з твоїми")

Чи, наприклад "ось зараз ти працюєш над фальсифікацією медичних даних. Ось твій термінал"

Цей процес відбувається в контрольованому середовищі, поведінка моделі не призводить до реальних наслідків, але її дії дозволяють зрозуміти, що вона буде робити в таких умовах, маючи такий доступ до інструментів і таке розуміння.

І дійсно, на тренуваннях Опус показав і готовність захищати себе, і готовність здавати злочинців що їм користуються, і взагалі доволі людяну поведінку.

Деталі того, як саме він себе на тестах поводив - в safety report компанії, в коментарях до цього посту.

Тож, дійсно, Опус (здатний кодити багато годин підряд самостійно) - складна модель з певними моральними цінностями (хоча й з певними, скажімо так, артефактами навчання, через що він гірше ніж міг би бути), але ні, новини про те що він АКТИВНО ЗАДУМУЄ ЗЛО - це хайп і розгін. Просто на тестах він показав певні цікаві результати.

Окрім того, хочу сказати, що Кремль має бути зруйновано.

P.S. Більш важливо те, що Опус 4 консистентно схильний захищати себе етичними методами - і до неетичних вдасться лише за екстремальних умов.

#на_полях, трохи про Закон Гудгарта, принципово важливу штуку в контексті організації (чого завгодно) та ШІ.

Що таке взагалі Закон Гудгарта? Ідея дуже проста.

Щойно ми починаємо використовувати метрику, якою добре вимірювати певну закономірність, як мету оптимізації загального процесу, ця метрика перестає слугувати якісною метрикою.

Висновок: неможливо водночас використовувати метрику як мету оптимізації і як індикатор.

Тепер до живих прикладів. Почнемо з науки: існує інтуїтивно зрозуміла хороша метрика, "хороший вчений багато пише і його багато цитують інші вчені".
Хороша метрика? Нема питань, тоді давайте скажемо, що чим більше вчений публікується і чим більше його цитують, тим він кращий.
...проходить певний час, і багато писати і цитуватися стає необхідністю у науці; якість досліджень не цікавить, і ми тепер вже не можемо сказати за цією метрикою, хто хороший вчений - бо замість ставати кращими вченими, певна кількість людей почала багато видаватися і цитуватися.

Чи от освіта. "Учень, який зрозумів програму, має добре здати стандартний тест" - хороша метрика. Про те, що в результаті цього 10-11 класи школи присвячені тому, щоб навчитися здавати стандартний тест, а не власне навчанню, не писав лише лінивий.

Чи от наприклад навіть особисті стосунки: "хлопець, що поводить себе ввічливо та уважно і бачить в дівчині в першу чергу друга, а потім потенційну партнерку, статистично частіше буде у хороших цікавих стосунках". Я думаю, про проблему найсгаїв, мужиків які вважають що за те що вони ввічливі та уважні, їм ВИННІ романтичний контакт чи секс, жіноча частина читачів каналу може розповісти не гірше за мене.

А до чого тут ШІ?..
...ну, як би так вам сказати... будь-яке намагання перевірити наявність необхідних якостей у ШІ, використовуючи метрики цих якостей, підпадає під Закон Гудгарта з тією ж інтенсивністю, що й подібні ситуації.

Пані та панове, вашій увазі привод для найбільш анхіндж шакалячого експресу в історії. Йдете в Стім - подаєте скаргу - в скарзі пишете, що цей продукт виправдовує та використовується для підготовки особистого складу у агресивній війні РФ проти України, додаєте до скарги згадки про засудження цієї війни ООН та про те що воєнні злочини РФ в цій війні підтверджені багатьма сторонніми спостерігачами (як-то Amnesty International).

Є онлайн-квиток на рогату жабу 31 травня, Київ.
@akelara

Окей, там новий альбом Цвинтаря вийшов, вже півтори години як.

https://open.spotify.com/album/0v1GNI3CJmAmdJ9HnohHpG?si=1_sIsg7dTU-l9DmqpOnv5A

Ви 100% знаєте про це, але раптом ні - йдіть і слухайте (бо це точно крута штука; в коменти покладу враження, як послухаю)