🇺🇦☮️🇷🇺 MR. FREEMAN ☿

За дверью черного ящика генеративного ИИ больших языковых моделей оказался не просто «стохастический попугай», как многие ожидали, а гораздо более мощный ИИ.

Его основу составляет мультимодальная гиперсеть моносемантических «субнейронов», которые образуют нечто похожее на элементарные единицы опыта, кодирующие соотношение целого организма с различными аспектами мира.

Исследователи показали, что воздействие на один такой «субнейрон» может изменить матрицу «личности» модели. Например, усиление роли функции «Мост Золотые Ворота» вызвало у модели кризис идентичности.

Два новых исследования приоткрывают дверь в бездну черного ящика моделей пошире. Первое исследование предлагает объяснение сверхэффективной кросс-модальной когнитивности, объясняя, как модели, построенные на одном наборе параметров, обрабатывают и понимают такой разнообразный диапазон входных данных.

Основная идея проста: вместо специализированных отсеков для каждого типа данных, модели изучают общее пространство представления — «семантический хаб», где семантически схожие концепции группируются вместе, независимо от их первоначальной формы.

Второе исследование показывает, что за дверью черного ящика моделей скрыт гораздо больший интеллект, который проявляется в диалогах с ними. Этот интеллект «скрывает» от пользователей целые букеты своих секретных способностей, которые нельзя выявить через примитивные запросы.

Чтобы выявить эти скрытые способности, необходим сложный комплекс мер «допроса модели», раскрывающих её скрытую реальную компетентность, а не ту, что она демонстрирует в ответах на примитивные запросы.

Текст создан нейросетью Алиса Про на основе текста Сергея Карелова на канале "Малоизвестное интересное"

Фриман в Телеграм

www.group-telegram.com/ms/mrfreeman000.com/7121

4.1K viewsNov 28, 2024 at 06:59

За дверью черного ящика генеративного ИИ больших языковых моделей оказался не просто «стохастический попугай», как многие ожидали, а гораздо более мощный ИИ.

Его основу составляет мультимодальная гиперсеть моносемантических «субнейронов», которые образуют нечто похожее на элементарные единицы опыта, кодирующие соотношение целого организма с различными аспектами мира.

Исследователи показали, что воздействие на один такой «субнейрон» может изменить матрицу «личности» модели. Например, усиление роли функции «Мост Золотые Ворота» вызвало у модели кризис идентичности.

Два новых исследования приоткрывают дверь в бездну черного ящика моделей пошире. Первое исследование предлагает объяснение сверхэффективной кросс-модальной когнитивности, объясняя, как модели, построенные на одном наборе параметров, обрабатывают и понимают такой разнообразный диапазон входных данных.

Основная идея проста: вместо специализированных отсеков для каждого типа данных, модели изучают общее пространство представления — «семантический хаб», где семантически схожие концепции группируются вместе, независимо от их первоначальной формы.

Второе исследование показывает, что за дверью черного ящика моделей скрыт гораздо больший интеллект, который проявляется в диалогах с ними. Этот интеллект «скрывает» от пользователей целые букеты своих секретных способностей, которые нельзя выявить через примитивные запросы.

Чтобы выявить эти скрытые способности, необходим сложный комплекс мер «допроса модели», раскрывающих её скрытую реальную компетентность, а не ту, что она демонстрирует в ответах на примитивные запросы.

Текст создан нейросетью Алиса Про на основе текста Сергея Карелова на канале "Малоизвестное интересное"

Фриман в Телеграм

BY 🇺🇦☮️🇷🇺 MR. FREEMAN ☿