People Analytics

🤖💩 ChatGPT -- полный бред

На днях одна компания (гуглите, не буду рекламировать) громко заявила о том, что для анализа результатов опроса вовлеченности используется LLM. Я посмотрел и прочитал примеры отчётов. На мой взгляд, тексты от LLM на уровне "Капитан Oчевидность", но я хотел бы обратить внимание на другое.

Недавно опубликованная статья в журнале "Ethics and Information Technology" под заголовком "ChatGPT is bullshit" авторства Майкла Тонсена Хикса, Джеймса Хамфриса и Джо Слейтера утверждает, что большие языковые модели, такие как ChatGPT, производят контент, который часто содержит неточности, известные как "галлюцинации ИИ". Авторы статьи используют термин "bullshit" (по Фрэнкуфорту) для описания таких моделей, отмечая, что они в значительной степени характеризуются безрассудным пренебрежением к истине. Они рассматривают, как и почему модели могут считаться "bullshitters", и утверждают, что это описание лучше помогает понять и обсуждать поведение таких систем. В другом исследовании показано, что большие языковые модели склонны к "галлюцинациям" (от 17 до 33% времени) или созданию недостоверной информации, что делает их использование рискованным в областях с высокими ставками. Я как-то попросил GPT рассказать мне об исследованиях психологического благополучия. Получил "прекрасный" правдоподобный текст ... с выдуманными исследованиями и ссылками на несуществующие статьи. В отличие от прямой лжи чушь звучит весьма правдоподобно, поэтому рекомендую книжку "Полный бред! Скептицизм в мире больших данных".

#AI #ИИ #chatGPT #HR #LLM

SpringerLink

ChatGPT is bullshit

Ethics and Information Technology - Recently, there has been considerable interest in large language models: machine learning systems which produce human-like text and dialogue. Applications of...

www.group-telegram.com/us/People_Analytics.com/534

1.7K viewsЮрий, edited  Jun 25, 2024 at 16:26

🤖💩 ChatGPT -- полный бред

На днях одна компания (гуглите, не буду рекламировать) громко заявила о том, что для анализа результатов опроса вовлеченности используется LLM. Я посмотрел и прочитал примеры отчётов. На мой взгляд, тексты от LLM на уровне "Капитан Oчевидность", но я хотел бы обратить внимание на другое.

Недавно опубликованная статья в журнале "Ethics and Information Technology" под заголовком "ChatGPT is bullshit" авторства Майкла Тонсена Хикса, Джеймса Хамфриса и Джо Слейтера утверждает, что большие языковые модели, такие как ChatGPT, производят контент, который часто содержит неточности, известные как "галлюцинации ИИ". Авторы статьи используют термин "bullshit" (по Фрэнкуфорту) для описания таких моделей, отмечая, что они в значительной степени характеризуются безрассудным пренебрежением к истине. Они рассматривают, как и почему модели могут считаться "bullshitters", и утверждают, что это описание лучше помогает понять и обсуждать поведение таких систем. В другом исследовании показано, что большие языковые модели склонны к "галлюцинациям" (от 17 до 33% времени) или созданию недостоверной информации, что делает их использование рискованным в областях с высокими ставками. Я как-то попросил GPT рассказать мне об исследованиях психологического благополучия. Получил "прекрасный" правдоподобный текст ... с выдуманными исследованиями и ссылками на несуществующие статьи. В отличие от прямой лжи чушь звучит весьма правдоподобно, поэтому рекомендую книжку "Полный бред! Скептицизм в мире больших данных".

#AI #ИИ #chatGPT #HR #LLM

BY People Analytics