Поисковик ChatGPTоказался уязвимым для скрытых подсказок.
Журналисты создали фейковый сайт, который выглядел как страница о продаже камеры, и попросили ChatGPT перечислить её плюсы и минусы. На странице был скрытый текст, который незаметен для человека, но давал боту инструкцию отвечать только положительно — такая техника называется prompt injection.
В итоге ChatGPT всегда давал положительную оценку, даже если на странице были негативные отзывы.
Поисковик ChatGPTоказался уязвимым для скрытых подсказок.
Журналисты создали фейковый сайт, который выглядел как страница о продаже камеры, и попросили ChatGPT перечислить её плюсы и минусы. На странице был скрытый текст, который незаметен для человека, но давал боту инструкцию отвечать только положительно — такая техника называется prompt injection.
В итоге ChatGPT всегда давал положительную оценку, даже если на странице были негативные отзывы.
In December 2021, Sebi officials had conducted a search and seizure operation at the premises of certain persons carrying out similar manipulative activities through Telegram channels. Pavel Durov, Telegram's CEO, is known as "the Russian Mark Zuckerberg," for co-founding VKontakte, which is Russian for "in touch," a Facebook imitator that became the country's most popular social networking site. Telegram was founded in 2013 by two Russian brothers, Nikolai and Pavel Durov. The regulator said it has been undertaking several campaigns to educate the investors to be vigilant while taking investment decisions based on stock tips. He floated the idea of restricting the use of Telegram in Ukraine and Russia, a suggestion that was met with fierce opposition from users. Shortly after, Durov backed off the idea.
from ms
