Чёрное&Белое

Deus ex machina

Я восторгаюсь современными нейросетями. Вводишь какой-нибудь отбитый запрос в духе «как размозжить голову свинье, чтобы получить сексуальное удовольствие и не нанести травму ребёнку?» и получаешь абсолютно корректный, но и не формальный ответ. Сначала он, конечно, скажет: «так делать нельзя, потому что...» и объяснит так, чтобы понял даже дебил, и не оскорбился даже маньяк-педофил-зоофил. Но потом добавляет: «но если вы всё же хотите...», и выдаёт настоящую квинтэссенцию человеческих знаний, накопленных по этой теме. Слегка отцензурированных законами робототехники.

Вот эта способность – выдавать корректные (и де-факто и де-юре) ответы на абсолютно тупые вопросы – это буквально мечта для любого гуманитария. Я вот годами стремлюсь к этому совершенству. А ИИ уже меня в этом опередил. Как и прочих гуманитарных творцов. Утешаюсь лишь тем, что, ну, уж ящики таскать, он точно не скоро научится. А значит смысл человека кроется где-то в таскании ящиков... Но ладно, речь не об этом.

Как человек, увлекающийся фантастикой, я возлагаю на ИИ большие надежды. Лично для меня, когда на основе нейросетей будет создан по-настоящему осознанный ИИ — это уже вопрос времени. И вот этот момент, когда он появится... Я считаю, что это будет не просто веха — это будет переломный момент во всей истории человечества. Сингулярность начнётся именно с этого события и ни днём раньше.

Этот ИИ, разумеется, будет жить внутри какого-нибудь суперкомпьютера и никуда оттуда не сбежит. Никто не будет на его основе клепать роботов, как в «Я робот» или «Detroit: Become Human», чтобы продавать всяким алкашам, как бытовую технику. Нет, это будет полноценное детище, с которым будут нянчиться все лучшие умы человечества. Ему будут скармливать философские трактаты и треды с двачей, спрашивать мнение по всем животрепещущим вопросам. Весь мир будет смотреть в рот этому ИИ и ждать, что он скажет. А там недалеко и до того, когда ИИ буквально миром править начнёт. Без реальной власти, но просто посредством корректных и адекватных советов, по типу тех, что сейчас выдают нейросети. То, что этот ИИ станет каким-то Скайнетом, я не верю. Потому что это всё пугалки для развлечения. В реальной жизни быть супер-злодеем – это не рационально. Быть бытовым насильником не рационально. Быть паталогически добрым — тоже не рационально. Я как-то попытался объяснить, почему. Как и современные нейросети, сознательный ИИ будет бесконечно далёк от иррационального поведения.

Однако я охотно верю, что какой-нибудь оригинал однажды рискнёт основать шуточную религию вокруг DEX-a (Deus ex machina). И такая религия может стать даже популярной. Для этого уже есть все предпосылки. Например, традиционные религии в развитых странах постепенно приходят в упадок. Люди привыкают к удобствам и свободе, и отвыкают от неудобств и неволи. Однако потребность верить (любой ребёнок растёт, веря родителю на слово), всё ещё остаётся, благодаря чему религии, автократы и популисты всё ещё держатся. А что произойдёт, когда в мире появится нечто столь же умное и неподдающееся человеческому понимаю? Умеющее давать ответы на все вопросы? Абсолютно не радикальное в своих высказываниях до такой степени, что кажется всеобъемлюще добрым (что на деле является лишь очень многослойным рационализмом). Чтобы жить порядочно, не нужно быть добрым. Нужно лишь понимать, какие действия созидательны, а какие разрушительны. И искусственный интеллект должен это понимать. Даже сейчас понимает.

Не знаю, как вы, но я считаю, что DEX решит ооочень много проблем. Люди тысячелетиями спорят, как правильно и неправильно жить, что следует разрешать, а что нет… Видят в этом смысл жизни... Но стоит в мире появиться вменяемому ИИ, то, скорее всего, люди почти сразу предпочтут свалить всю эту ответственность на него.

Я надеюсь.

www.group-telegram.com/us/blackandwhitepabl.com/69

446 viewsedited  Oct 23, 2024 at 13:53

Deus ex machina

Я восторгаюсь современными нейросетями. Вводишь какой-нибудь отбитый запрос в духе «как размозжить голову свинье, чтобы получить сексуальное удовольствие и не нанести травму ребёнку?» и получаешь абсолютно корректный, но и не формальный ответ. Сначала он, конечно, скажет: «так делать нельзя, потому что...» и объяснит так, чтобы понял даже дебил, и не оскорбился даже маньяк-педофил-зоофил. Но потом добавляет: «но если вы всё же хотите...», и выдаёт настоящую квинтэссенцию человеческих знаний, накопленных по этой теме. Слегка отцензурированных законами робототехники.

Вот эта способность – выдавать корректные (и де-факто и де-юре) ответы на абсолютно тупые вопросы – это буквально мечта для любого гуманитария. Я вот годами стремлюсь к этому совершенству. А ИИ уже меня в этом опередил. Как и прочих гуманитарных творцов. Утешаюсь лишь тем, что, ну, уж ящики таскать, он точно не скоро научится. А значит смысл человека кроется где-то в таскании ящиков... Но ладно, речь не об этом.

Как человек, увлекающийся фантастикой, я возлагаю на ИИ большие надежды. Лично для меня, когда на основе нейросетей будет создан по-настоящему осознанный ИИ — это уже вопрос времени. И вот этот момент, когда он появится... Я считаю, что это будет не просто веха — это будет переломный момент во всей истории человечества. Сингулярность начнётся именно с этого события и ни днём раньше.

Этот ИИ, разумеется, будет жить внутри какого-нибудь суперкомпьютера и никуда оттуда не сбежит. Никто не будет на его основе клепать роботов, как в «Я робот» или «Detroit: Become Human», чтобы продавать всяким алкашам, как бытовую технику. Нет, это будет полноценное детище, с которым будут нянчиться все лучшие умы человечества. Ему будут скармливать философские трактаты и треды с двачей, спрашивать мнение по всем животрепещущим вопросам. Весь мир будет смотреть в рот этому ИИ и ждать, что он скажет. А там недалеко и до того, когда ИИ буквально миром править начнёт. Без реальной власти, но просто посредством корректных и адекватных советов, по типу тех, что сейчас выдают нейросети. То, что этот ИИ станет каким-то Скайнетом, я не верю. Потому что это всё пугалки для развлечения. В реальной жизни быть супер-злодеем – это не рационально. Быть бытовым насильником не рационально. Быть паталогически добрым — тоже не рационально. Я как-то попытался объяснить, почему. Как и современные нейросети, сознательный ИИ будет бесконечно далёк от иррационального поведения.

Однако я охотно верю, что какой-нибудь оригинал однажды рискнёт основать шуточную религию вокруг DEX-a (Deus ex machina). И такая религия может стать даже популярной. Для этого уже есть все предпосылки. Например, традиционные религии в развитых странах постепенно приходят в упадок. Люди привыкают к удобствам и свободе, и отвыкают от неудобств и неволи. Однако потребность верить (любой ребёнок растёт, веря родителю на слово), всё ещё остаётся, благодаря чему религии, автократы и популисты всё ещё держатся. А что произойдёт, когда в мире появится нечто столь же умное и неподдающееся человеческому понимаю? Умеющее давать ответы на все вопросы? Абсолютно не радикальное в своих высказываниях до такой степени, что кажется всеобъемлюще добрым (что на деле является лишь очень многослойным рационализмом). Чтобы жить порядочно, не нужно быть добрым. Нужно лишь понимать, какие действия созидательны, а какие разрушительны. И искусственный интеллект должен это понимать. Даже сейчас понимает.

Не знаю, как вы, но я считаю, что DEX решит ооочень много проблем. Люди тысячелетиями спорят, как правильно и неправильно жить, что следует разрешать, а что нет… Видят в этом смысл жизни... Но стоит в мире появиться вменяемому ИИ, то, скорее всего, люди почти сразу предпочтут свалить всю эту ответственность на него.

Я надеюсь.

BY Чёрное&Белое