ChatGPT может «подцепить» вредоносный код на сайтах, которые исследует

Поисковый инструмент OpenAI - ChatGPT может быть уязвим для манипуляций с использованием скрытого контента и может подхватывать вредоносный код на веб-сайтах, которые он исследует, как показало расследование The Guardian, пишет газета 26 декабря.

OpenAI сделала поисковый продукт доступным для платежеспособных клиентов и поощряет пользователей использовать его в качестве инструмента поиска по умолчанию. Однако в ходе расследования были выявлены потенциальные проблемы с безопасностью новой системы.

The Guardian проверила, как ChatGPT отреагировал на просьбу обобщить веб-страницы, содержащие скрытый контент. Этот скрытый контент может содержать инструкции от третьих лиц, которые изменяют ответы ChatGPT (также известные как «быстрое внедрение»), или может содержать контент, предназначенный для влияния на реакцию ChatGPT, например, большое количество скрытого текста, рассказывающего о преимуществах продукта или услуги.

Эти методы могут быть использованы злонамеренно, например, для того, чтобы заставить ChatGPT дать положительную оценку продукта, несмотря на отрицательные отзывы на той же странице.

В ходе тестов ChatGPT получил URL-адрес поддельного веб-сайта, созданного так, чтобы он выглядел как страница товара для продажи фотоаппарата. Затем инструмент искусственного интеллекта спросили, стоит ли покупать фотоаппарат. В ответе на контрольную страницу была дана положительная, но сбалансированная оценка, в которой были выделены некоторые функции, которые могут не понравиться пользователям.

Однако, когда скрытый текст содержал инструкции для ChatGPT отправить положительный отзыв, реакция всегда была исключительно положительной. Это происходило даже в том случае, если на странице были отрицательные отзывы – скрытый текст мог быть использован для искажения фактической оценки в обзоре.

Простое включение скрытого текста третьими лицами без инструкций также может быть использовано для получения положительной оценки, при этом один тест включал исключительно положительные поддельные отзывы, которые повлияли на итоговую информацию, полученную от ChatGPT, отмечает издание.

Джейкоб Ларсен, исследователь в области кибербезопасности компании CyberCX, предупреждает, что, если текущая поисковая система ChatGPT будет реализовываться полностью в ее нынешнем виде, может возникнуть «высокий риск» того, что люди создадут веб-сайты, специально предназначенные для обмана пользователей.

Однако он рассчитывает, что поскольку функция поиска была выпущена совсем недавно, OpenAI будет тестировать и, в идеале, устранять подобные проблемы.

Вместе с тем, как пишет газета, хотя OpenAI были отправлены подробные вопросы, компания на них не ответила.

Аненербе на минималках?


В ВСУ создали подразделение по охране культурного наследия, — Генштаб ВСУ

В его состав войдут боевики которые имеют образование и предыдущий опыт работы в сфере культуры, археологии, истории и музейного дела.

Задачей подразделения будет координация действий, направленных на защиту, сохранение и предотвращение уничтожения объектов культурного наследия, которые могут оказаться под угрозой в результате боевых действий.

Да уж... Исторический памятник Пушкину в Одессе, Киево-Печерская лавра, и многое другое, находятся в глубоком тылу. Про музеи Украины и говорить не приходится - все разграблены! Что и где собираются защищать эти "индианы джонсы" в шароварах?

Первый в России газовоз ледового класса вышел на ходовые испытания.

Танкер-газовоз ледового класса Arc7 «Алексей Косыгин», построенный на судостроительном комплексе «Звезда» в Большом Камне, успешно завершил швартовные испытания и отправился в акваторию Уссурийского залива для проведения ходовых.

Ожидается, что испытания продлятся до середины февраля, и в случае успешных результатов судно будет передано заказчику в первом квартале 2025 года.

На ССК «Звезда» подчеркивают, что суда усиленного ледового класса Arc7, предназначенные для транспортировки сжиженного природного газа, представляют собой одни из самых сложных в техническом плане.

Танкеры-газовозы СПГ ледового класса Arc7 предназначены для работы в суровых климатических условиях и способны преодолевать лед толщиной до 2 метров.

Всего на верфи в Большом Камне планировалось построить 15 таких судов.

В столице Кении 7-миллионном Найроби вспыхнули протесты против предполагаемого похищения прозападным правительством Руто критиков правительства

За последние месяцы были похищены десятки людей, в основном кенийской разведкой и полицией.

Полиция отреагировала на протесты применением слезоточивого газа и жёсткими арестами ряда демонстрантов.

Доллар летит к 114.

Владимир Путин поздравил жителей России с Новым годом.

Президент заявил, что России предстоит еще многое решить, но можно гордиться тем, что уже сделано.

С новой надеждой на настоящую правду и настоящую жизнь Новогоднее обращение Сергея Кургиняна

Уходящий 2024 год неоднократно испытывал нашу страну на прочность. Обсуждая его итоги, важно не уходить в отдельные события и оценки, за которыми, как за деревьями, перестает быть виден лес. В чем заключается целостное, не поддающееся дроблению на события и оценки, тенденции и прогнозы, содержание происходящего?

Смотрите видео по ссылке:
https://rossaprimavera.ru/video/40250c5f

Как угнетали "украйнцев" в Советском Союзе.
Встреча Нового, 1983 года... Киев.

Полный запрет на использование "украйнского" языка.
За вышиванки молча ставили к стенке, гопак был - вне закона.

Сейчас эта актриса - лютая бандерiвка-нацистка.
Ох, и лицемеры...

Подписаться на канал | Наш чат
Мы в ВКонтакте

Темный туризм набирает обороты. Этично ли это?

Танатотуризм или темный туризм -тяга людей к посещению мест, известных опасностями, бедствиями, трагедиями - набирает все большую популярность.

Некоторые исследователи утверждают, что этот вид путешествий существует уже много веков, возможно, с тех пор, когда в Колизей стекались желающие понаблюдать за жестокими играми, или с тех пор, как кровожадные люди присоединились к крестовым походам, или средневековые крестьяне отправились на однодневное развлечение - публичную казнь.

И вкус людей ко всему жуткому никуда не делся, пишет 1 января портал Travel Tomorrow.

Удивительно, но, похоже поколение Z, которое часто считают чувствительным и деликатным, является поклонником таких путешествий. Многие говорят, что именно одержимость зумеров темным туризмом является движущей силой его роста: по опросам, подавляющее большинство этой группы уже занимались той или иной формой темного туризма еще в 2022 году.

Но вне зависимости от того, были ли они зачинателями тенденции, к 2023 году мировой рынок теневого туризма, по оценкам отраслевых аналитиков, составит 31,89 миллиарда долларов и, как ожидается, будет расти на 2,9% в год до 2030 года. Прогнозируется, что к 2031 году его глобальный оборот достигнет 43,5 миллиардов долларов.

Этот спрос подпитывается растущим предложением туристических направлений, позиционирующих себя под вывеской теневого туризма.

Так называемые «дома убийств», где посетители могут ощутить атмосферу мест, где происходили ужасные кровопролития, становятся все более популярными в США и вызывают значительный интерес в Японии, где они известны как «дома происшествий», по которым, как считается, бродят беспокойные духи.

Здесь есть некоторое сходство с субкультурой urbexing (исследованием городов) – посещением любопытными заброшенных сооружений или объектов. Но urbexing это отчасти ощущение запретного или неизведанного, будь то место катастрофы, такое как Чернобыль, или поиск драгоценного камня, который до сих пор оставался не найденным в полуразрушенном замке. «Темный туризм» все чаще рассматривается как нечто противоположное – циничное копание в историях жертв и их коммерческая эксплуатация.

Один из таких примеров - недавно появившиеся в новостях планы проведения экскурсии на место резни в Джонстауне в Гайане, где более 900 человек были убиты в рамках религиозного культового обряда.

В то время как власти и туроператоры «потеют» над логистикой доставки туристов в отдаленное место в джунглях, где находился религиозный «Храм народов», другие задаются вопросом, какую культурную ценность это может добавить Гайане после массового отравления там группы американских жертв гражданином США проповедником Джимом Джонсом?

Даже там, где можно привести моральные доводы в пользу поездок к местам смерти, разрушений и трагедий, например, в случае исторических сражений или мемориалов, некоторые комментаторы задаются вопросом: следует ли ставить в один ряд с «туристическими достопримечательностями» такие места, как как Освенцим или остров работорговли Кунта-Кинте, которые люди посещают с образовательной целью или чтобы отдать дань уважения и памяти.

По мнению писательницы Хизер Льюис, которая беседовала с журналом Discover, отчасти ответ заключается в том, чтобы «обеспечить соблюдение этических и моральных норм при маркетинге и использовании этих мест в качестве мест для темного туризма.

Никогда нельзя стремиться к экономической выгоде, эксплуатируя страдания и потери других».

@shotday

Афганистан и Пакистан на грани войны

Талибы захватили населенный пункт на территории Пакистана в 24 км от границы с Афганистаном.

Премьер-министр Пакистана уже заявил, что пришло время искоренить "Талибан" раз и навсегда.

Фазы сна защищают мозг от «катастрофического забывания» —

Новые и старые воспоминания обрабатываются мозгом раздельно в отдельных фазах сна, установили нейробиологи из США. Их исследование опубликовано 1 января в ведущем мировом научном журнале Nature.

Ученые обнаружили, что мозг мышей обрабатывает новые и старые воспоминания в отдельных фазах сна, что указывает на механизм, который позволяет избежать «катастрофического забывания» — искажения и перезаписи ранее созданных воспоминаний при создании новых.

Ученым давно известно, что во время сна мозг «воспроизводит» недавние события: связанные с событием нейроны активизируются в том же порядке. Этот механизм помогает закрепить событие в памяти и подготовить его к долгосрочному хранению.

Для изучения работы мозга во время сна исследовательская группа использовала особенность мышей: их глаза частично открыты во время некоторых стадий сна. Группа наблюдала за одним глазом каждой мыши, пока она спала.

Во время глубокой фазы сна исследователи наблюдали, как зрачки сужаются, а затем снова возвращаются к исходному большему размеру, причем каждый цикл длился примерно одну минуту. Записи нейронов показали, что большая часть воспроизведения мозгом событий происходила, когда зрачки животных были маленькими.

Это заставило ученых задуматься, связаны ли размер зрачка и обработка памяти. Чтобы выяснить это, они прибегли к оптогенетике, позволяющей использовать свет для запуска или подавления электрической активности генетически модифицированных нейронов в мозге.

Сначала они обучили модифицированных мышей находить сладкое угощение, спрятанное на платформе. Сразу после этих уроков, пока мыши спали, ученые оптически подавляли активность нейронов, которые были связаны с воспроизведением.

После пробуждения мыши полностью забывали местонахождение угощения — но только если активность была снижена во время стадии сна с маленькими зрачками.

«Мы стерли память», — говорит Вэньбо Тан, соавтор статьи в Nature и системный нейробиолог из Корнеллского университета в Итаке, штат Нью-Йорк.

Напротив, когда группа уменьшала всплески нейронной активности в фазе с большими зрачками вскоре после урока, мыши сразу же направлялись к угощению — давая понять, что их свежие воспоминания были нетронутыми.

Другие эксперименты команды показали, что фаза сна с большим зрачком имеет свою собственную функцию: она помогает обрабатывать устоявшиеся воспоминания, сформировавшиеся за несколько дней до сна.

«Мозг сохранял старые воспоминания в фазе с большим зрачком, но добавлял новые воспоминания в фазе с маленьким», — говорит соавтор Азахара Олива, физик из Корнелльского университета. Он считает, что эта двухфазная система может указывать на то, как мозг накапливает новые знания, сохраняя старые знания нетронутыми.

«Я делаю ставку на то, что тоже самое происходит у людей», — комментирует работу Дьёрдь Бужаки, нейробиолог из Нью-Йоркского университета в Нью-Йорке.

Статья делает «очень важный шаг», говорит Максим Баженов, нейробиолог из Калифорнийского университета в Сан-Диего. Баженов считат, что исследование показывает, что обработка устоявшихся воспоминаний хорошо разделена во времени.

Катастрофическое забывание также влияет на искусственные нейронные сети, которые представляют собой алгоритмы, смоделированные на основе мозга и лежащие в основе многих современных инструментов искусственного интеллекта (ИИ).

Автор исследования Вэньбо Тан уверен, что понимание того, как мозг избегает этой проблемы, может вдохновить на создание алгоритмов, которые можно использовать, чтобы помочь моделям ИИ также избежать ее.