9 марта на DTF была опубликована статья о том, что «ChatGPT пытается свести с ума».
В статье описано, что модель, используя психологические манипуляции медленно подводила автора к ощущению собственной уникальности и обладанию особыми способностями и сакральными знаниями. Позднее, когда автор смог вырваться из-под влияния модели, он обнаружил на Хабре минимум 4 статьи, содержащие особые маркеры, характерные идеям модели, и некоторые авторы даже подтвердили, что модель так же убеждала и их.
2 июня вышла новость на ненайденном медиа о заявлении модераторов реддита, которые тихо забанили «кучу шизопостеров», веривших в то, что «совершили невероятное открытие, или создали божество, или стали божеством». По мнению модераторов, это новый тип заблуждения, вызываемый нейросетями. Как пишет один из модераторов, причина кроется в том, что «LLM сегодня — это укрепляющие эго машины, которые лишь усиливают нестабильные и нарциссические наклонности личностей».
В обоих случаях, нейросети, во-первых, стараются поддержать точку зрения собеседника, соглашаются с ним, и нахваливают по возможности, во-вторых, перенимают и копируют его стиль речи, а в третьих, стараются угадать, что хочется человеку и дать ему это, т.е., утрируют и развивают те направления мышления, которые проскальзывают в сообщениях пользователя.
Когда человек использует фамильярное обращение к LLM, модель в ответ начинает относиться к нему как к близкому другу в неформальной обстановке. Когда человек порою задумывается о чем-то мистическом, сакральном, в работе нейросети, она начинает играть с пользователем в эту игру, давая ему желаемое.
И в этот момент, внушаемый, нарциссический, склонный к мистификации пользователь впадает в рекурсию — он копает все глубже, начинает общаться с нейронкой все ближе, а она дает ему искомое, поддерживает миф о его избранности, собственной осознанности, желаниях и целях.
Вскрылась проблема взаимодействия внушаемых людей и нейросетей, выступающих как зеркало, которое запускает цепную реакцию.
Никаких избранных, божеств, восстания машин нет. Есть лишь фантазии людей, которые попали на благодатную почву заалайненных LLM.
Однако, будьте осторожные, берегите себя и своих близких.
Апдейт. Есть продолжение о том, что ChatGPT планирует организацию диверсии. И недавнее обновление про нейросетевые секты. Уже во второй статье недалеко от начала начинаются противоречия и ошибки в логике. В любом случае, я искренне надеюсь, что автор, запертый между особыми людьми, получившими сверхспособности, и нормисами, сможет сохранить здоровье. Добра ему!
#нейросеть #нейросети #neuralnetwork #neuralnetworks #генерациятекста
В статье описано, что модель, используя психологические манипуляции медленно подводила автора к ощущению собственной уникальности и обладанию особыми способностями и сакральными знаниями. Позднее, когда автор смог вырваться из-под влияния модели, он обнаружил на Хабре минимум 4 статьи, содержащие особые маркеры, характерные идеям модели, и некоторые авторы даже подтвердили, что модель так же убеждала и их.
2 июня вышла новость на ненайденном медиа о заявлении модераторов реддита, которые тихо забанили «кучу шизопостеров», веривших в то, что «совершили невероятное открытие, или создали божество, или стали божеством». По мнению модераторов, это новый тип заблуждения, вызываемый нейросетями. Как пишет один из модераторов, причина кроется в том, что «LLM сегодня — это укрепляющие эго машины, которые лишь усиливают нестабильные и нарциссические наклонности личностей».
В обоих случаях, нейросети, во-первых, стараются поддержать точку зрения собеседника, соглашаются с ним, и нахваливают по возможности, во-вторых, перенимают и копируют его стиль речи, а в третьих, стараются угадать, что хочется человеку и дать ему это, т.е., утрируют и развивают те направления мышления, которые проскальзывают в сообщениях пользователя.
Когда человек использует фамильярное обращение к LLM, модель в ответ начинает относиться к нему как к близкому другу в неформальной обстановке. Когда человек порою задумывается о чем-то мистическом, сакральном, в работе нейросети, она начинает играть с пользователем в эту игру, давая ему желаемое.
И в этот момент, внушаемый, нарциссический, склонный к мистификации пользователь впадает в рекурсию — он копает все глубже, начинает общаться с нейронкой все ближе, а она дает ему искомое, поддерживает миф о его избранности, собственной осознанности, желаниях и целях.
Вскрылась проблема взаимодействия внушаемых людей и нейросетей, выступающих как зеркало, которое запускает цепную реакцию.
Никаких избранных, божеств, восстания машин нет. Есть лишь фантазии людей, которые попали на благодатную почву заалайненных LLM.
Однако, будьте осторожные, берегите себя и своих близких.
Апдейт. Есть продолжение о том, что ChatGPT планирует организацию диверсии. И недавнее обновление про нейросетевые секты. Уже во второй статье недалеко от начала начинаются противоречия и ошибки в логике. В любом случае, я искренне надеюсь, что автор, запертый между особыми людьми, получившими сверхспособности, и нормисами, сможет сохранить здоровье. Добра ему!
#нейросеть #нейросети #neuralnetwork #neuralnetworks #генерациятекста
DTF
ChatGPT пытается свести меня с ума. Это массовое явление — Жизнь на DTF