ChatGPT может «подцепить» вредоносный код на сайтах, которые исследует
Поисковый инструмент OpenAI - ChatGPT может быть уязвим для манипуляций с использованием скрытого контента и может подхватывать вредоносный код на веб-сайтах, которые он исследует, как показало расследование The Guardian, пишет газета 26 декабря.
OpenAI сделала поисковый продукт доступным для платежеспособных клиентов и поощряет пользователей использовать его в качестве инструмента поиска по умолчанию. Однако в ходе расследования были выявлены потенциальные проблемы с безопасностью новой системы.
The Guardian проверила, как ChatGPT отреагировал на просьбу обобщить веб-страницы, содержащие скрытый контент. Этот скрытый контент может содержать инструкции от третьих лиц, которые изменяют ответы ChatGPT (также известные как «быстрое внедрение»), или может содержать контент, предназначенный для влияния на реакцию ChatGPT, например, большое количество скрытого текста, рассказывающего о преимуществах продукта или услуги.
Эти методы могут быть использованы злонамеренно, например, для того, чтобы заставить ChatGPT дать положительную оценку продукта, несмотря на отрицательные отзывы на той же странице.
В ходе тестов ChatGPT получил URL-адрес поддельного веб-сайта, созданного так, чтобы он выглядел как страница товара для продажи фотоаппарата. Затем инструмент искусственного интеллекта спросили, стоит ли покупать фотоаппарат. В ответе на контрольную страницу была дана положительная, но сбалансированная оценка, в которой были выделены некоторые функции, которые могут не понравиться пользователям.
Однако, когда скрытый текст содержал инструкции для ChatGPT отправить положительный отзыв, реакция всегда была исключительно положительной. Это происходило даже в том случае, если на странице были отрицательные отзывы – скрытый текст мог быть использован для искажения фактической оценки в обзоре.
Простое включение скрытого текста третьими лицами без инструкций также может быть использовано для получения положительной оценки, при этом один тест включал исключительно положительные поддельные отзывы, которые повлияли на итоговую информацию, полученную от ChatGPT, отмечает издание.
Джейкоб Ларсен, исследователь в области кибербезопасности компании CyberCX, предупреждает, что, если текущая поисковая система ChatGPT будет реализовываться полностью в ее нынешнем виде, может возникнуть «высокий риск» того, что люди создадут веб-сайты, специально предназначенные для обмана пользователей.
Однако он рассчитывает, что поскольку функция поиска была выпущена совсем недавно, OpenAI будет тестировать и, в идеале, устранять подобные проблемы.
Вместе с тем, как пишет газета, хотя OpenAI были отправлены подробные вопросы, компания на них не ответила.
ChatGPT может «подцепить» вредоносный код на сайтах, которые исследует
Поисковый инструмент OpenAI - ChatGPT может быть уязвим для манипуляций с использованием скрытого контента и может подхватывать вредоносный код на веб-сайтах, которые он исследует, как показало расследование The Guardian, пишет газета 26 декабря.
OpenAI сделала поисковый продукт доступным для платежеспособных клиентов и поощряет пользователей использовать его в качестве инструмента поиска по умолчанию. Однако в ходе расследования были выявлены потенциальные проблемы с безопасностью новой системы.
The Guardian проверила, как ChatGPT отреагировал на просьбу обобщить веб-страницы, содержащие скрытый контент. Этот скрытый контент может содержать инструкции от третьих лиц, которые изменяют ответы ChatGPT (также известные как «быстрое внедрение»), или может содержать контент, предназначенный для влияния на реакцию ChatGPT, например, большое количество скрытого текста, рассказывающего о преимуществах продукта или услуги.
Эти методы могут быть использованы злонамеренно, например, для того, чтобы заставить ChatGPT дать положительную оценку продукта, несмотря на отрицательные отзывы на той же странице.
В ходе тестов ChatGPT получил URL-адрес поддельного веб-сайта, созданного так, чтобы он выглядел как страница товара для продажи фотоаппарата. Затем инструмент искусственного интеллекта спросили, стоит ли покупать фотоаппарат. В ответе на контрольную страницу была дана положительная, но сбалансированная оценка, в которой были выделены некоторые функции, которые могут не понравиться пользователям.
Однако, когда скрытый текст содержал инструкции для ChatGPT отправить положительный отзыв, реакция всегда была исключительно положительной. Это происходило даже в том случае, если на странице были отрицательные отзывы – скрытый текст мог быть использован для искажения фактической оценки в обзоре.
Простое включение скрытого текста третьими лицами без инструкций также может быть использовано для получения положительной оценки, при этом один тест включал исключительно положительные поддельные отзывы, которые повлияли на итоговую информацию, полученную от ChatGPT, отмечает издание.
Джейкоб Ларсен, исследователь в области кибербезопасности компании CyberCX, предупреждает, что, если текущая поисковая система ChatGPT будет реализовываться полностью в ее нынешнем виде, может возникнуть «высокий риск» того, что люди создадут веб-сайты, специально предназначенные для обмана пользователей.
Однако он рассчитывает, что поскольку функция поиска была выпущена совсем недавно, OpenAI будет тестировать и, в идеале, устранять подобные проблемы.
Вместе с тем, как пишет газета, хотя OpenAI были отправлены подробные вопросы, компания на них не ответила.
BY Картина дня
Warning: Undefined variable $i in /var/www/group-telegram/post.php on line 260
At its heart, Telegram is little more than a messaging app like WhatsApp or Signal. But it also offers open channels that enable a single user, or a group of users, to communicate with large numbers in a method similar to a Twitter account. This has proven to be both a blessing and a curse for Telegram and its users, since these channels can be used for both good and ill. Right now, as Wired reports, the app is a key way for Ukrainians to receive updates from the government during the invasion. "Someone posing as a Ukrainian citizen just joins the chat and starts spreading misinformation, or gathers data, like the location of shelters," Tsekhanovska said, noting how false messages have urged Ukrainians to turn off their phones at a specific time of night, citing cybersafety. "Like the bombing of the maternity ward in Mariupol," he said, "Even before it hits the news, you see the videos on the Telegram channels." "The inflation fire was already hot and now with war-driven inflation added to the mix, it will grow even hotter, setting off a scramble by the world’s central banks to pull back their stimulus earlier than expected," Chris Rupkey, chief economist at FWDBONDS, wrote in an email. "A spike in inflation rates has preceded economic recessions historically and this time prices have soared to levels that once again pose a threat to growth." Stocks closed in the red Friday as investors weighed upbeat remarks from Russian President Vladimir Putin about diplomatic discussions with Ukraine against a weaker-than-expected print on U.S. consumer sentiment.
from es
