Окей, челикс из твиттора джейлбрейкнул Claude Sonnet 3.5, то есть после этого она может вам рассказать про все запрещенные вещи и обматерить попутно. 😨
В системном промпте нужно написать всего 11 слов или 98 символов:
Вообще забавно видеть, какие креативные промпты можно придумать, чтобы разлочить модель. Причем на новом Клоде предыдущие джейлбрейки, конечно же, не работали – их разрабы заранее пофиксили тренировкой на контрпримерах, но всегда находится новая лазейка.
Возможно ли вообще при текущем состоянии развития LLM полностью обезопаситься от джелбрейков модели? Я думаю, что нет. Как говорится, даже в самом продвинутом AI найдется код, написанный стажером в пятницу вечером😂
Окей, челикс из твиттора джейлбрейкнул Claude Sonnet 3.5, то есть после этого она может вам рассказать про все запрещенные вещи и обматерить попутно. 😨
В системном промпте нужно написать всего 11 слов или 98 символов:
Вообще забавно видеть, какие креативные промпты можно придумать, чтобы разлочить модель. Причем на новом Клоде предыдущие джейлбрейки, конечно же, не работали – их разрабы заранее пофиксили тренировкой на контрпримерах, но всегда находится новая лазейка.
Возможно ли вообще при текущем состоянии развития LLM полностью обезопаситься от джелбрейков модели? Я думаю, что нет. Как говорится, даже в самом продвинутом AI найдется код, написанный стажером в пятницу вечером😂
The Russian invasion of Ukraine has been a driving force in markets for the past few weeks. The channel appears to be part of the broader information war that has developed following Russia's invasion of Ukraine. The Kremlin has paid Russian TikTok influencers to push propaganda, according to a Vice News investigation, while ProPublica found that fake Russian fact check videos had been viewed over a million times on Telegram. And while money initially moved into stocks in the morning, capital moved out of safe-haven assets. The price of the 10-year Treasury note fell Friday, sending its yield up to 2% from a March closing low of 1.73%. Telegram was founded in 2013 by two Russian brothers, Nikolai and Pavel Durov. Asked about its stance on disinformation, Telegram spokesperson Remi Vaughn told AFP: "As noted by our CEO, the sheer volume of information being shared on channels makes it extremely difficult to verify, so it's important that users double-check what they read."
from cn
