TMT Channel

Microsoft выпускает новую функцию, которая обнаруживает неточности в ответах ИИ и сама исправляет их

Эта функция называется «коррекция» и входит в состав набора инструментов Azure AI Studio (предназначен для обнаружения уязвимостей, поиска «галлюцинаций» и блокировки вредоносных запросов ).

Как пишет The Verge, система сравнивает ответ ИИ с исходными данными и сама находит неточности. Она указывает на ошибку и объясняет, почему она возникла. А потом автоматически исправляет неверные фрагменты текста. В заявлении для TechCrunch представитель Microsoft сказал, что система использует как маленькие, так и большие языковые модели для того, чтобы ответы ИИ соответствовали исходным данным. Однако, он подчеркивает, что даже с использованием этих моделей система не может гарантировать 100% точность.

Кстати, у Google Vertex AI есть похожая функция, которая проверяет ответы ИИ с помощью поисковых систем и других источников данных.

TMT Channel | Подписаться

www.group-telegram.com/fr/tmtwave.com/2865

1.6K viewsedited  Sep 25 at 07:45

Microsoft выпускает новую функцию, которая обнаруживает неточности в ответах ИИ и сама исправляет их

Эта функция называется «коррекция» и входит в состав набора инструментов Azure AI Studio (предназначен для обнаружения уязвимостей, поиска «галлюцинаций» и блокировки вредоносных запросов ).

Как пишет The Verge, система сравнивает ответ ИИ с исходными данными и сама находит неточности. Она указывает на ошибку и объясняет, почему она возникла. А потом автоматически исправляет неверные фрагменты текста. В заявлении для TechCrunch представитель Microsoft сказал, что система использует как маленькие, так и большие языковые модели для того, чтобы ответы ИИ соответствовали исходным данным. Однако, он подчеркивает, что даже с использованием этих моделей система не может гарантировать 100% точность.

Кстати, у Google Vertex AI есть похожая функция, которая проверяет ответы ИИ с помощью поисковых систем и других источников данных.

TMT Channel | Подписаться

BY TMT Channel