НТЦ ГРЧЦ

💬 Проблемы формы и значения в LLM

Впечатляющие способности больших языковых моделей (LLM) в овладении, понимании и генерировании человеческого языка основаны на больших языковых данных из интернета. Обучение включает разбиение текста или речи на токены и анализ связей между ними для создания грамматически корректных последовательностей. Сгенерированный текст может не соответствовать реальному миру, что создает проблему галлюцинаций и ложной информации.

Утверждения относительно лингвистических возможностей LLM имеют два необоснованных предположения:

1️⃣ Существование полноты языка в виде целостной сущности, схожей с физическими объектами, которая может быть эффективно смоделирована LLM.
2️⃣ Полнота данных, позволяющая идентифицировать и количественно оценить основные характеристики естественного языка в наборах данных.

В основе этих предположений лежит вычислительная теория разума, рассматривающая разум как систему обработки информации. Однако познание возможно с точки зрения энактивизма, который выделяет три характеристики инсценированного языка, отсутствующие в LLM:

✅ Воплощение – тон голоса, жесты, эмоциональный контекст, выражение лица и т. д.
✅ Участие – непринужденный разговор, мимолетные жесты, язык тела, паузы, колебания.
✅ Неустойчивость – двусмысленность между людьми: напряженность, разногласия.

Таким образом, LLM не могут повторно использовать и создавать формы для манипулирования смыслом и работы в изменяющемся мире. Впечатляющие результаты работы основаны на прогнозировании предложений. Несмотря на неудачи в решении нелингвистических задач, LLM – это значительное инженерное достижение, требующее тщательной оценки перед развертыванием для смягчения тенденции к упрощению языка и кодированию общественных стереотипов.

💻 Подробнее – в новом материале на сайте Научно-технического центра.

Please open Telegram to view this post

VIEW IN TELEGRAM

www.group-telegram.com/us/rdc_grfc.com/1352

780 viewsOct 18 at 15:00

💬 Проблемы формы и значения в LLM

Впечатляющие способности больших языковых моделей (LLM) в овладении, понимании и генерировании человеческого языка основаны на больших языковых данных из интернета. Обучение включает разбиение текста или речи на токены и анализ связей между ними для создания грамматически корректных последовательностей. Сгенерированный текст может не соответствовать реальному миру, что создает проблему галлюцинаций и ложной информации.

Утверждения относительно лингвистических возможностей LLM имеют два необоснованных предположения:

1️⃣ Существование полноты языка в виде целостной сущности, схожей с физическими объектами, которая может быть эффективно смоделирована LLM.
2️⃣ Полнота данных, позволяющая идентифицировать и количественно оценить основные характеристики естественного языка в наборах данных.

В основе этих предположений лежит вычислительная теория разума, рассматривающая разум как систему обработки информации. Однако познание возможно с точки зрения энактивизма, который выделяет три характеристики инсценированного языка, отсутствующие в LLM:

✅ Воплощение – тон голоса, жесты, эмоциональный контекст, выражение лица и т. д.
✅ Участие – непринужденный разговор, мимолетные жесты, язык тела, паузы, колебания.
✅ Неустойчивость – двусмысленность между людьми: напряженность, разногласия.

Таким образом, LLM не могут повторно использовать и создавать формы для манипулирования смыслом и работы в изменяющемся мире. Впечатляющие результаты работы основаны на прогнозировании предложений. Несмотря на неудачи в решении нелингвистических задач, LLM – это значительное инженерное достижение, требующее тщательной оценки перед развертыванием для смягчения тенденции к упрощению языка и кодированию общественных стереотипов.

💻 Подробнее – в новом материале на сайте Научно-технического центра.