Бессмертие или глобальная катастрофа?

Gwern: Перевод:

"Когда вы пишете, вы голосуете за будущее Шоггота, используя одну из немногих валют, которые он признает: токены, которые ему нужно предсказывать. Если вы не пишете, вы отрекаетесь от будущего или своей роли в нем. Если вы думаете, что достаточно просто быть хорошим гражданином, голосовать за любимого политика, подбирать мусор и перерабатывать отходы – будущему нет до вас дела.

Есть способы влиять на Шоггота сильнее, но их немного. Если вы уже не занимаете несколько ключевых позиций или не работаете в передовой лаборатории, ваше влияние округляется до 0 – намного сильнее, чем когда-либо прежде. Если у вас есть ценности, которые еще не выражены в тексте, если есть вещи, которые вам нравятся или которые вы хотите, если они не отражены онлайн – для ИИ они не существуют. Это опасно близко к тому, что они не будут существовать вообще.

Но да, вы также создаете своего рода бессмертие лично для себя. Вы создаете не просто персону, вы создаете и свое будущее я. Какое я вы показываете языковым моделям, и как они будут относиться к вам в будущем?"

www.group-telegram.com/ms/alexeyturchin.com/7417

1.1K viewsFeb 1 at 07:37

Gwern: Перевод:

"Когда вы пишете, вы голосуете за будущее Шоггота, используя одну из немногих валют, которые он признает: токены, которые ему нужно предсказывать. Если вы не пишете, вы отрекаетесь от будущего или своей роли в нем. Если вы думаете, что достаточно просто быть хорошим гражданином, голосовать за любимого политика, подбирать мусор и перерабатывать отходы – будущему нет до вас дела.

Есть способы влиять на Шоггота сильнее, но их немного. Если вы уже не занимаете несколько ключевых позиций или не работаете в передовой лаборатории, ваше влияние округляется до 0 – намного сильнее, чем когда-либо прежде. Если у вас есть ценности, которые еще не выражены в тексте, если есть вещи, которые вам нравятся или которые вы хотите, если они не отражены онлайн – для ИИ они не существуют. Это опасно близко к тому, что они не будут существовать вообще.

Но да, вы также создаете своего рода бессмертие лично для себя. Вы создаете не просто персону, вы создаете и свое будущее я. Какое я вы показываете языковым моделям, и как они будут относиться к вам в будущем?"

BY Бессмертие или глобальная катастрофа?