Microsoft выпускает новую функцию, которая обнаруживает неточности в ответах ИИ и сама исправляет их
Эта функция называется «коррекция» и входит в состав набора инструментов Azure AI Studio (предназначен для обнаружения уязвимостей, поиска «галлюцинаций» и блокировки вредоносных запросов ).
Как пишет The Verge, система сравнивает ответ ИИ с исходными данными и сама находит неточности. Она указывает на ошибку и объясняет, почему она возникла. А потом автоматически исправляет неверные фрагменты текста. В заявлении для TechCrunch представитель Microsoft сказал, что система использует как маленькие, так и большие языковые модели для того, чтобы ответы ИИ соответствовали исходным данным. Однако, он подчеркивает, что даже с использованием этих моделей система не может гарантировать 100% точность.
Кстати, у Google Vertex AI есть похожая функция, которая проверяет ответы ИИ с помощью поисковых систем и других источников данных.
Microsoft выпускает новую функцию, которая обнаруживает неточности в ответах ИИ и сама исправляет их
Эта функция называется «коррекция» и входит в состав набора инструментов Azure AI Studio (предназначен для обнаружения уязвимостей, поиска «галлюцинаций» и блокировки вредоносных запросов ).
Как пишет The Verge, система сравнивает ответ ИИ с исходными данными и сама находит неточности. Она указывает на ошибку и объясняет, почему она возникла. А потом автоматически исправляет неверные фрагменты текста. В заявлении для TechCrunch представитель Microsoft сказал, что система использует как маленькие, так и большие языковые модели для того, чтобы ответы ИИ соответствовали исходным данным. Однако, он подчеркивает, что даже с использованием этих моделей система не может гарантировать 100% точность.
Кстати, у Google Vertex AI есть похожая функция, которая проверяет ответы ИИ с помощью поисковых систем и других источников данных.
Soloviev also promoted the channel in a post he shared on his own Telegram, which has 580,000 followers. The post recommended his viewers subscribe to "War on Fakes" in a time of fake news. Two days after Russia invaded Ukraine, an account on the Telegram messaging platform posing as President Volodymyr Zelenskiy urged his armed forces to surrender. This ability to mix the public and the private, as well as the ability to use bots to engage with users has proved to be problematic. In early 2021, a database selling phone numbers pulled from Facebook was selling numbers for $20 per lookup. Similarly, security researchers found a network of deepfake bots on the platform that were generating images of people submitted by users to create non-consensual imagery, some of which involved children. For Oleksandra Tsekhanovska, head of the Hybrid Warfare Analytical Group at the Kyiv-based Ukraine Crisis Media Center, the effects are both near- and far-reaching. "We as Ukrainians believe that the truth is on our side, whether it's truth that you're proclaiming about the war and everything else, why would you want to hide it?," he said.
from us
