group-telegram.com/robotsymphony/5372
Last Update:
Видели ролики, где пользователи Яндекс Станций спрашивают Алису, есть ли у неё скрытая камера, а она уверенно отвечает, что есть?
В Станциях действительно есть пасхалки, но не камеры. Исключения — Станция Дуо Макс, в ней есть камера с физической шторкой, которой её всегда можно закрыть. Все остальные колонки работают исключительно с микрофоном. В этом можно убедиться, если посмотреть разборы Станций в интернете.
Тогда откуда такие ответы? Всё дело в галлюцинациях нейросетей. Это явление, когда нейросети генерируют правдоподобные, но ошибочные результаты. Над решением этой проблемы работают исследователи по всему миру, и за последние пару лет нейросети стали выдумывать факты гораздо реже, но полностью проблема еще не решена.
Как работают большие языковые модели
Они анализируют огромные массивы данных, выявляя закономерности и предсказывая следующее слово на основе вероятностей. Если спросить у модели, сколько будет два плюс два, она ответит «четыре». Но не потому, что осмыслила и поняла математические концепции, а потому, что часто видела в текстах «два плюс два» и «четыре» рядом. Если обучающие данные содержат ошибки или пробелы, нейросеть также может генерировать неточные результаты.
Но ведь Алиса умеет искать информацию
По принципу работы Алиса похожа на роутер:
🔸 Запросы об актуальном, например, о результате вчерашнего матча, направляются в Поиск, а затем обрабатываются YandexGPT.
🔸 Запросы вроде «Включи музыку» или «Поставь будильник» направляются в соответствующие сервисы.
🔸 А если пользователь хочет просто пообщаться с Алисой, она не всегда опирается на данные из поиска — иногда она просто разговаривает с пользователем и генерирует ответы сама.
С галлюцинациями можно что-то сделать?
Важно понимать, что галлюцинации нейросетей и их креативность — две стороны одной медали. Одна из задач разработчиков и тренеров нейросетей — снижать частоту их ошибок, сохраняя такие важные качества, как гибкость и умение находить нестандартные решения. И с каждой новой версией этот баланс удаётся соблюдать всё лучше.
Так что не волнуйтесь: в Станциях с Алисой нет камеры (кроме Станции Дуо Макс). А если её ответы всё же вызывают вопросы — делитесь ими в комментариях. Разберёмся!
Подписывайтесь 👉 @techno_yandex