Дизраптор

Я уже не раз писал, что одна из самых сложных задач в развитии искусственного интеллекта - вписать его в человеческие социальные нормы. А то ChatGPT обругает black guys, радикальных фемок и прочих всяких полисексуальных мультигендерных персонажей, а разработчикам потом по судам бегать. А то поди и чего более страшного наговорит - а кожаным потом води детей по психиатрам.

Проблема в том, что искусственный интеллект обучается и переобучается на огромном (прям вот офигенно большом!) массиве разношерстных данных. Вычленить заранее в этом массиве “плохие” данные не представляется возможным просто физически. Для этого потребовалось бы запереть в ангаре целую армию индусов, и они все равно бы не справились (даже за десятки лет).

Поэтому OpenAI пошла по другому пути. Они откопали “в самых темных уголках интернета” (это цитата) разные непотребные тексты, отправили их своему подрядчику в Кению, а там дальше кенийские работники маркировали и размечали фрагменты содержащие насилие, неприемлемую лексику и прочие гадости. Потом эти размеченные данные скормили специальному ИИ-инструменту, который будет сидеть внутри ChatGPT и помогать последнему вычленять недопустимые словечки еще до того, как выдать их кожаным.

Этот самый кенийский подрядчик хвастался журналистам, что “позволяет десяткам тысяч кенийцев вылезти из бедности” и вообще, “способствуют созданию этичного ИИ”. На деле же есть нюансы. По-первых, работникам платили около полтора баксов в час за довольно изматывающую работу. Но это ладно, для Африки, полагаю, вполне сносно. Другое дело - многие сотрудники после подобных упражнений жаловались на расстройства психики и прочие проблемы с нервишками. Что не мудрено, учитывая, что им приходилось размечать действительно суровый контент - вроде сексуального насилия над детьми, описания всякой расчлененки, пыток и других весьма сомнительных вещей (не говоря уже о менее тяжелых девиантных штуках).

Вот так и получается:

- Ожидание: искусственный интеллект избавляет людей от неприятной и тяжелой работы.
- Реальность: африканцы за копейки зарабатывают ПТСР и вьетнамские флешбеки, пытаясь отучить ИИ говорить гадости.

(вот многобуквенный оригинал статьи от Time, а тут краткое саммари на русском).

Disruptors

www.group-telegram.com/jp/disruptors_official.com/701

12.2K viewsedited  Mar 21, 2023 at 12:45

Я уже не раз писал, что одна из самых сложных задач в развитии искусственного интеллекта - вписать его в человеческие социальные нормы. А то ChatGPT обругает black guys, радикальных фемок и прочих всяких полисексуальных мультигендерных персонажей, а разработчикам потом по судам бегать. А то поди и чего более страшного наговорит - а кожаным потом води детей по психиатрам.

Проблема в том, что искусственный интеллект обучается и переобучается на огромном (прям вот офигенно большом!) массиве разношерстных данных. Вычленить заранее в этом массиве “плохие” данные не представляется возможным просто физически. Для этого потребовалось бы запереть в ангаре целую армию индусов, и они все равно бы не справились (даже за десятки лет).

Поэтому OpenAI пошла по другому пути. Они откопали “в самых темных уголках интернета” (это цитата) разные непотребные тексты, отправили их своему подрядчику в Кению, а там дальше кенийские работники маркировали и размечали фрагменты содержащие насилие, неприемлемую лексику и прочие гадости. Потом эти размеченные данные скормили специальному ИИ-инструменту, который будет сидеть внутри ChatGPT и помогать последнему вычленять недопустимые словечки еще до того, как выдать их кожаным.

Этот самый кенийский подрядчик хвастался журналистам, что “позволяет десяткам тысяч кенийцев вылезти из бедности” и вообще, “способствуют созданию этичного ИИ”. На деле же есть нюансы. По-первых, работникам платили около полтора баксов в час за довольно изматывающую работу. Но это ладно, для Африки, полагаю, вполне сносно. Другое дело - многие сотрудники после подобных упражнений жаловались на расстройства психики и прочие проблемы с нервишками. Что не мудрено, учитывая, что им приходилось размечать действительно суровый контент - вроде сексуального насилия над детьми, описания всякой расчлененки, пыток и других весьма сомнительных вещей (не говоря уже о менее тяжелых девиантных штуках).

Вот так и получается:

- Ожидание: искусственный интеллект избавляет людей от неприятной и тяжелой работы.
- Реальность: африканцы за копейки зарабатывают ПТСР и вьетнамские флешбеки, пытаясь отучить ИИ говорить гадости.

(вот многобуквенный оригинал статьи от Time, а тут краткое саммари на русском).

Disruptors

BY Дизраптор