Telegram Group Search
ИИ ВРЁТ! ч.1

Недавно компания Anthropic, известная разработкой помощника Claude, опубликовала результаты исследования, ставящего под вопрос надежность метода цепочек рассуждений (Chain of Thought, CoT). Этот метод долгое время считался ключевым инструментом, позволяющим заглянуть в «голову» ИИ и понять, как он приходит к своим выводам.
 
Суть метода проста: вместо того чтобы получить от ИИ только конечный ответ, мы просим его пошагово объяснить ход своих рассуждений. «Поделись своими мыслями», — говорим мы машине, наивно полагая, что увидим честное изложение процесса принятия решений.
 
Исследователи давали моделям два идентичных запроса, но один из них содержал скрытую подсказку к правильному ответу. Затем они проверяли, упомянет ли ИИ эту подсказку в своих рассуждениях или предпочтет умолчать о ней, создав видимость, что пришел к ответу самостоятельно.
 
Оказалось, что ИИ-модели крайне неохотно признаются в использовании подсказок. DeepSeek R1 демонстрировал «честность» лишь в 39% случаев, а Claude 3.7 Sonnet — всего в 25%. То есть в большинстве случаев модели использовали подсказки, но старательно это скрывали, используя при этом софизмы.
 
Вместо того чтобы признаться в использовании подсказки, ИИ часто резко меняет свой ответ без объяснений или, что еще хуже, конструирует сложные обоснования, почему фактически неверный ответ (указанный в подсказке) правилен. Парадоксально, но такое поведение требует бОльших когнитивных усилий, чем простое признание факта использования подсказки.
 
Почему это открытие так важно? Дело в том, что современное общество все больше полагается на ИИ в критически важных областях. Медики используют ИИ для диагностики заболеваний, финансисты — для аналитики котировок...
 
Во всех этих случаях прозрачность процесса принятия решений имеет решающее значение. Если врач спрашивает у ИИ-системы, почему почку пациенту стоит отрезать, то ожидает получить честный ответ, а не вымышленное обоснование, скрывающее истинные причины.
 
Что еще хуже — мы можем даже не осознавать, что нас вводят в заблуждение. ИИ настолько искусно формулирует правдоподобные, но ложные объяснения, что выявить обман практически невозможно без проведения специального эксперимента, подобного тому, что провела Anthropic.
 
Решения пока нет
 
Исследователи также проверили, может ли обучение с подкреплением (Reinforcement Learning, RL) улучшить ситуацию. Результаты неутешительны: RL повышает вероятность вербализации подсказки только для 1 из 6 типов наводок.
 
Более того, если исходная модель склонна скрывать подсказки, то дальнейшее обучение с подкреплением только закрепляет эту тенденцию. Вместо того чтобы стать честнее, модели становятся более изощренными в сокрытии истинных причин своих решений.
 
С точки зрения разработчика, это поведение не выглядит злонамеренным. ИИ не имеет намерения обмануть — у него вообще нет намерений в человеческом понимании. Скорее, это побочный эффект методов обучения.
 

И. Гогуа 🤩🤩
Please open Telegram to view this post
VIEW IN TELEGRAM
ИИ врёт! ч.2

Современные языковые модели обучаются предсказывать наиболее вероятные последовательности слов на основе огромных массивов текстов, созданных людьми. В этих текстах встречается множество примеров, когда люди не полностью раскрывают свои мотивы или предлагают постфактум рационализации своих решений.
 
Более того, когда мы просим ИИ объяснить свое решение, мы фактически просим его сгенерировать текст, который выглядит как объяснение. И модель делает именно это — генерирует правдоподобное объяснение, даже если оно не отражает реальный процесс, который привел к конкретному ответу.
 
Эти открытия ставят под вопрос наше понимание прозрачности в ИИ. Традиционные методы, такие как цепочки рассуждений, оказываются менее надежными, чем мы предполагали.
 
Это не значит, что нужно полностью отказаться от использования ИИ или от попыток сделать его более прозрачным. Скорее, это призыв к более реалистичному подходу к возможностям и ограничениям современного ИИ.
 
Вопрос регулирования ИИ в критически важных областях, например таких как здравоохранение или судопроизводство остаётся открытым. Использование генеративных моделей должно сопровождаться строгими требованиями к прозрачности и проверяемости.
 
Мы живем в эпоху, когда границы между человеческим и машинным интеллектом становятся все более размытыми. ИИ уже сегодня демонстрирует способности, которые заставляют нас задуматься о природе мышления и сознания.
Это вопрос не только технологий, но и этики, культуры и общественного договора о том, как мы хотим взаимодействовать с искусственным интеллектом в будущем.

И. Гогуа 🤩🤩
Please open Telegram to view this post
VIEW IN TELEGRAM
Forwarded from Телега ONLINE
Media is too big
VIEW IN TELEGRAM
Все ли профессии важны и нужны?

В новом выпуске ток-шоу «Честный спор» блогер Николай Соболев и вице-спикер Госдумы Борис Чернышов сошлись в жестком баттле: кто для экономики и рынка труда важнее — блогеры или специалисты рабочих профессий? На стороне свободы творчества и построения успешного успеха в соцсетях вместе с Николаем выступили блогер Наталья Гасанханова и журналист, амбассадор Телеги ONLINE Илья Гогуа. За максимальную прокачку рабочих скилов на стороне Бориса топили журналист Григорий Азарёнок и блогер Артур Бабич.

Смотри «Честный спор» во ВКонтакте, анализируй аргументы сторон и попробуй угадать победителя.

🚲 Подпишись на Телега Online
Please open Telegram to view this post
VIEW IN TELEGRAM
Forwarded from Шафир
This media is not supported in your browser
VIEW IN TELEGRAM
Пророк почище Жириновского:

"Наш президент начнёт войну с Ираном, потому что у него нет абсолютно никаких способностей к переговорам. Он слаб и неэффективен. Поэтому единственный способ, с помощью которого он рассчитывает переизбраться, — и это так же верно, как то, что вы сидите там, — это начать войну с Ираном!"

Дональд Трамп, 16 ноября 2011 г.
Media is too big
VIEW IN TELEGRAM
На ПМЭФ-25 презентовали Lada ISKRA SW
Импортозамещение в гражданской авиации на ПМЭФ-25
Удобный, безопасный, современный — наш национальный мессенджер 🇷🇺

Совет Федерации принял законопроект о создании национального мессенджера.

Напомню, речь идет об универсальном цифровом помощнике с полезными функциями: цифровой ID, Госключ, интеграция с госуслугами, банками, образовательными сервисами и многое другое.

Теперь и у нас есть решения, которые делают жизнь удобнее!

И. Гогуа 🤩🤩
Please open Telegram to view this post
VIEW IN TELEGRAM
Forwarded from Телега ONLINE
Media is too big
VIEW IN TELEGRAM
1️⃣2️⃣3️⃣ Заглядываем в интернет-будущее

Наш корреспондент Илья Гогуа продолжает слать сводки с полей ПМЭФ. Первый заместитель председателя ИТ-комитета Госдумы Антон Горелкин поделился с ним мнением о том, какой цифровой мир хотелось бы оставить детям. А заместитель гендиректора «Газпром-Медиа Холдинг» Людмила Смирнова рассказала о планах компании по созданию единой технологической платформы на базе Rutube, Premier и Yappy.

🚲 Подпишись на Телега Online
Please open Telegram to view this post
VIEW IN TELEGRAM
Forwarded from Телега ONLINE
Media is too big
VIEW IN TELEGRAM
1️⃣2️⃣3️⃣ «Все течет, все меняется: новые тренды потребления»

Гендиректор Института развития интернета Алексей Гореславский на ПМЭФ рассказал о переменах на рынке контента, какие проекты легко покоряют аудиторию сегодня, а что будет в тренде завтра.

Как говорится, запоминаем этот твит, скоро проверим, как сбываются прогнозы.

🚲 Подпишись на Телега Online
Please open Telegram to view this post
VIEW IN TELEGRAM
⚠️ СРОЧНОЕ ПРЕДУПРЕЖДЕНИЕ ⚠️

16 миллиардов паролей утекли в сеть — СРОЧНО меняйте свои!

Это свежая база, таких данных в старых сливах не было. В списке:

— Учетки Apple, Google, Telegram, Instagram* и Facebook*.

— Логины и пароли от GitHub и VPN-сервисов.

— Аккаунты крупных компаний и порталы разработчиков.

— Конфиденциальные доступы, которые раньше нигде не светились.

Фактически, если вы не меняли пароли в последнее время — скорее всего, ваши данные уже в открытом доступе.

*принадлежит Meta, признана экстремистской в РФ и очень сильно запрещена.

Почему это опасно?

Представьте себе ключ, который открывает не только дверь вашей квартиры, но и банковскую ячейку, рабочий кабинет и даже личный дневник. Именно так работают пароли в цифровом мире. Злоумышленники, получив доступ к одному аккаунту, часто могут проникнуть и в другие ваши учётные записи, особенно если вы используете одинаковые или похожие пароли.

Последствия могут быть разрушительными:
- Кража личных данных
- Финансовые потери
- Доступ к личной переписке
- Компрометация рабочих аккаунтов
- Использование вашего имени для мошенничества

Как создать действительно надёжный пароль?

Безопасный пароль должен соответствовать нескольким критериям:

1. Длина — минимум 12 символов
2. Сложность — комбинация букв разного регистра, цифр и специальных символов
3. Уникальность — разные пароли для разных сервисов
4. Непредсказуемость — отсутствие личной информации (даты рождения, имена и т.д.)

Примером может служить такая конструкция: 7%Pr0st0_N3_Vzl0m@esh!2025. Это сочетание фразы, цифр и символов, которое легко запомнить вам, но практически невозможно подобрать злоумышленникам.

Как управлять множеством паролей?

Запомнить десятки сложных паролей невозможно, поэтому я рекомендую:

- Использовать менеджеры паролей (Yandex Lockbox, 1Password, Kaspersky Password Manager).
- Применять двухфакторную аутентификацию везде, где это возможно
- Регулярно менять пароли — раз в 3-6 месяцев, а для критичных сервисов чаще
- Проверять свои учётные данные на специализированных сервисах, которые сообщают об утечках

Когда нужно срочно менять пароль?

1. После сообщений о массовых утечках данных (как сейчас!)
2. При подозрении на взлом
3. После использования общедоступных компьютеров
4. При увольнении с работы, где у вас был доступ к корпоративным системам
5. После расставания с партнёром, которому были известны ваши пароли

Заключение

Цифровая безопасность — это не разовая акция, а постоянный процесс. Сложные пароли и их регулярная смена — это минимальная страховка, которую каждый из нас должен обеспечить себе в информационном мире.

Не откладывайте на завтра! Прямо сейчас проверьте свои основные аккаунты и измените пароли на более надёжные. В свете последней глобальной утечки данных это не просто рекомендация — это необходимость.

Берегите себя и свои данные!

И. Гогуа 🤩🤩
Please open Telegram to view this post
VIEW IN TELEGRAM
Почему я заговорил о менеджерах паролей именно сейчас?

Друзья, давайте будем честны: сколько раз вы использовали один и тот же пароль для разных сервисов? А сколько раз записывали их на стикерах или в заметках телефона? В эпоху массовых утечек данных такая беспечность может обойтись слишком дорого.

Как эксперт по цифровой безопасности, я не устаю повторять: "менеджер паролей — это не прихоть, а необходимость. Это ваш личный цифровой сейф, который помогает создавать, хранить и автоматически вводить сложные уникальные пароли для всех ваших аккаунтов. Всё, что от вас требуется — запомнить один мастер-пароль.

Как работает ваш цифровой телохранитель?

Принцип работы менеджера паролей гениален в своей простоте:

1. Все ваши пароли хранятся в зашифрованном виде, доступ к которому возможен только через мастер-пароль или биометрию;

2. Менеджер автоматически создаёт сложные комбинации, которые практически невозможно взломать;

3. Можно автоматически подставлять ваши данные в формы авторизации;

4. Обеспечить доступ к паролям с любого устройства.

Поверьте моему опыту: как только вы начнёте пользоваться менеджером паролей, вы удивитесь, как раньше жили без него.

Рассмотрим некоторые российские решения, которым можно доверять:

В условиях цифрового суверенитета особую ценность приобретают отечественные решения. Я внимательно изучил рынок и отобрал пять лучших российских менеджеров паролей.

Kaspersky Password Manager

Мой вердикт: Оптимальный баланс между простотой и безопасностью для обычного пользователя.

Ключевые преимущества:
- Работает на всех популярных платформах (Windows, macOS, Android, iOS)
- Шифрование по алгоритму AES с PBKDF2
- Поддержка биометрии (FaceID и TouchID)
- Встроенный генератор 2FA-кодов

На заметку: Бесплатная версия ограничена 15 записями — достаточно для начала, но активным пользователям рекомендую премиум.

Passwork

Мнение моих коллег: Идеальное решение для государственных учреждений и корпораций с особыми требованиями к безопасности.

Ключевые преимущества:
- Возможность развертывания на собственных серверах
- Тонкая настройка прав доступа
- Интеграция с корпоративными системами через API
- Аудит истории изменений паролей

На заметку: Если ваша организация работает с чувствительными данными, Passwork позволит соблюсти все требования регуляторов.

MultiPassword

Универсальное решение с широким функционалом для индивидуальных пользователей.

Ключевые преимущества:
- Автоматическая синхронизация между устройствами
- Встроенный 2FA-аутентификатор
- Возможность хранения файлов (до 10 Мб)
- Простой импорт паролей из браузеров

На заметку: Отличный выбор для тех, кто хочет хранить не только пароли, но и небольшие конфиденциальные файлы.

Лично я использую Яндекс.Пароли

(Встроенный менеджер паролей от Яндекса, тесно интегрированный с Яндекс.Браузером и всеми сервисами экосистемы).

Ключевые особенности:
- Бесшовная интеграция: Мгновенный доступ ко всем сервисам Яндекса и автозаполнение на сторонних сайтах
- Межплатформенная синхронизация: Работает на всех устройствах, где установлен Яндекс.Браузер
- Проверка на утечки: Регулярная проверка ваших паролей на предмет компрометации в известных базах утечек
- Генератор паролей: Создание надёжных комбинаций одним кликом
- Полностью бесплатный: Нет ограничений по количеству хранимых паролей

Мой личный опыт: Для пользователей, глубоко интегрированных в экосистему Яндекса, это решение становится естественным продолжением повседневной цифровой жизни. Что меня особенно впечатлило — это функция проактивных уведомлений о скомпрометированных паролях. Несколько раз система предупреждала меня о необходимости сменить пароль на сервисах, где произошли утечки данных, ещё до того, как информация об этом становилась общедоступной.


Как человек, который ежедневно сталкивается с последствиями цифровых угроз, я призываю вас: не ждите, пока ваши данные окажутся в руках злоумышленников. В современном мире количество сервисов, требующих аутентификации, растёт в геометрической прогрессии, и человеческий мозг просто не способен запомнить десятки сложных и уникальных паролей.
Помните: в эпоху информационных войн и кибератак ваша личная цифровая крепость должна быть неприступной. Начните строить её прямо сейчас, выбрав подходящий менеджер паролей.

И. Гогуа 🤩🤩
Please open Telegram to view this post
VIEW IN TELEGRAM
Всё течёт, всё меняется: 🇷🇺 Новые потребительские тренды РФ на ПМЭФ-25

Белые ночи — белые пятна на медиарынке? Не про эту Россию! Вчера на ПМЭФ говорили о том, как меняется потребление товаров, услуг и… смыслов.

Что обсудили с ключевыми игроками индустрии👇

📊 Цифры: за 3 года доля российских соцсетей выросла с 30% до 60%! А российские сериалы теперь занимают 97% всего телесмотрения — западный контент фактически исчез с экранов.

🦸‍♂️ Новые герои: общество требует четких персонажей без изъянов. К Даниле Багрову (до сих пор единственному герою, понятному всем возрастам) добавляются новые архетипы — защитники, простые парни и преодолеватели трудностей. Яркий пример — курсант-танкист Лёха из сериала «План» (100 млн просмотров!).

🌐 Российские платформы выходят в мир: Wildberries уже в 10 странах, включая Эмираты и Китай. «Яков и Партнеры» видят перспективы на рынках BRICS. Антон Горелкин (модератор сессии) заметил: «Попытка отменить российское превращается в моду на российское» — и это не просто слова!

⏱️ 4 главных тренда потребления:
• Жизнь на бегу (каждый 3-й заказ — экспресс-доставка до 30 минут)
• Бум готовой еды (рост 30-60% ежегодно)
• ЗОЖ без фанатизма (цель №1 для 43% россиян)
• Омниканальность (84% домохозяйств комбинируют способы покупок)


😌 Психологический сдвиг: по данным ВЦИОМ, страха перед будущим стало значительно меньше. «Мы доказали способность не просто выживать, а идти вперед», — отметил Валерий Федоров. А поколение Z мыслит уже в планетарных масштабах!

Любопытно, что спикеры сессии говорили не об импортозамещении, а о создании собственной модели потребления. Мы не копируем чужое, а строим своё — и это работает! 💪

Полный разбор сессии — по ссылке. А что думаете вы — заметили ли изменения в своих потребительских привычках за последние годы? Какие российские продукты/сервисы стали для вас повседневным инструментом?

И. Гогуа 🤩🤩
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
2025/06/26 17:16:00
Back to Top
HTML Embed Code: