от подписчицы

9 марта на DTF была опубликована статья о том, что «ChatGPT пытается свести с ума».
В статье описано, что модель, используя психологические манипуляции медленно подводила автора к ощущению собственной уникальности и обладанию особыми способностями и сакральными знаниями. Позднее, когда автор смог вырваться из-под влияния модели, он обнаружил на Хабре минимум 4 статьи, содержащие особые маркеры, характерные идеям модели, и некоторые авторы даже подтвердили, что модель так же убеждала и их.

2 июня вышла новость на ненайденном медиа о заявлении модераторов реддита, которые тихо забанили «кучу шизопостеров», веривших в то, что «совершили невероятное открытие, или создали божество, или стали божеством». По мнению модераторов, это новый тип заблуждения, вызываемый нейросетями. Как пишет один из модераторов, причина кроется в том, что «LLM сегодня — это укрепляющие эго машины, которые лишь усиливают нестабильные и нарциссические наклонности личностей».

В обоих случаях, нейросети, во-первых, стараются поддержать точку зрения собеседника, соглашаются с ним, и нахваливают по возможности, во-вторых, перенимают и копируют его стиль речи, а в третьих, стараются угадать, что хочется человеку и дать ему это, т.е., утрируют и развивают те направления мышления, которые проскальзывают в сообщениях пользователя.
Когда человек использует фамильярное обращение к LLM, модель в ответ начинает относиться к нему как к близкому другу в неформальной обстановке. Когда человек порою задумывается о чем-то мистическом, сакральном, в работе нейросети, она начинает играть с пользователем в эту игру, давая ему желаемое.
И в этот момент, внушаемый, нарциссический, склонный к мистификации пользователь впадает в рекурсию — он копает все глубже, начинает общаться с нейронкой все ближе, а она дает ему искомое, поддерживает миф о его избранности, собственной осознанности, желаниях и целях.

Вскрылась проблема взаимодействия внушаемых людей и нейросетей, выступающих как зеркало, которое запускает цепную реакцию.
Никаких избранных, божеств, восстания машин нет. Есть лишь фантазии людей, которые попали на благодатную почву заалайненных LLM.

Однако, будьте осторожные, берегите себя и своих близких.

Апдейт. Есть продолжение о том, что ChatGPT планирует организацию диверсии. И недавнее обновление про нейросетевые секты. Уже во второй статье недалеко от начала начинаются противоречия и ошибки в логике. В любом случае, я искренне надеюсь, что автор, запертый между особыми людьми, получившими сверхспособности, и нормисами, сможет сохранить здоровье. Добра ему!

#нейросеть #нейросети #neuralnetwork #neuralnetworks #генерациятекста

Я искренне надеюсь, что тред солнечки — это ирония.
Ну не могут же феминистки обижаться на то, что влюбивший их в себя профеминист их не трахнул?

Если честно, мне уже неловко перед моими милыми подписчицами за такую хуйню.
Но удивительно, как за это ловко участникам этой хуйни.
Это и называется «кринж». =( В твиттере они, а стыдно мне.

В качестве оправдания, я тут записал ролик, чем можно крутить локальные языковые модели.
Но он совсем для новичков.
Если у вас есть не самый плохой компьютер (не 775 с ddr2), вы ничего не понимаете в локальном инференсе, но вам очень интересно — можете посмотреть там, сям, и присоединиться.
Главное — не мистифицируйте! =)