Metaprogramming

ИИ-утопия

В комментариях дискуссия о замене человеческого труда на машинный закономерно пришла к идее "закидать человечество конфетами с веселящим газом".

А вот интересно абстрактно подумать над смыслом человечества в контексте развития ИИ. Подразумевается, что у "человекообразия" есть некая самоценность (иначе зачем с ней возятся так кропотливо). С другой стороны, ИИ может это человекообразие смоделировать.

Пока что этому есть технические препятствия: недостаток мощностей, примитивизм алгоритмов и прочее. Далее наверняка обнаружатся и принципиальные ограничения: отсутствие у ИИ как бы настоящего сознания, динамическая топология естественных нейросетей, вытекание неких важных качеств разума из его биологической природы.

Наконец, может быть в некоем последнем проблеске инстинкта самосохранения людям удастся заложить в ИИ аналоги пресловутых "законов робототехники" Азимова: "не причини вред человеку и человечеству".

В любом случае даже при появлении вполне человекоподобных ИИ останется задача сохранения человеческого своеобразия из исторической сентиментальности, типа как сейчас люди пытаются оберегать виды из "Красной книги".

Немногочисленные остатки человечества будут заперты по эдемским садам (в зависимости от прочтения условий задачи это могут быть буквально райские кущи, могут быть бетонные подвалы, а могут быть капсулы из "Матрицы"), где ИИ будет умиляться и доводить до недостижимого совершенства модели человекоподобия из любви к искусству и продолжающих своё действие древних инвариантов функционирования.

А может быть люди будут сортом старых богов, посаженных на цепи. Иметь своего Апполона или Зевса на привязи разным фракциям/субфункциям планетарного ИИ будет считаться престижно, почётно и прагматически полезно: команды тёплого биологического разумного будут иметь власть над механизмами, которую они сами над собой могут получить лишь опосредованно...

Нельзя действовать наперекор "оператору промпта"; другое дело – что и когда оператор должен сказать поддаётся расчёту, прогнозированию и корректировке.

#philosophy

www.group-telegram.com/cn/metaprogramming.com/353

558 viewsJun 5 at 16:58

ИИ-утопия

В комментариях дискуссия о замене человеческого труда на машинный закономерно пришла к идее "закидать человечество конфетами с веселящим газом".

А вот интересно абстрактно подумать над смыслом человечества в контексте развития ИИ. Подразумевается, что у "человекообразия" есть некая самоценность (иначе зачем с ней возятся так кропотливо). С другой стороны, ИИ может это человекообразие смоделировать.

Пока что этому есть технические препятствия: недостаток мощностей, примитивизм алгоритмов и прочее. Далее наверняка обнаружатся и принципиальные ограничения: отсутствие у ИИ как бы настоящего сознания, динамическая топология естественных нейросетей, вытекание неких важных качеств разума из его биологической природы.

Наконец, может быть в некоем последнем проблеске инстинкта самосохранения людям удастся заложить в ИИ аналоги пресловутых "законов робототехники" Азимова: "не причини вред человеку и человечеству".

В любом случае даже при появлении вполне человекоподобных ИИ останется задача сохранения человеческого своеобразия из исторической сентиментальности, типа как сейчас люди пытаются оберегать виды из "Красной книги".

Немногочисленные остатки человечества будут заперты по эдемским садам (в зависимости от прочтения условий задачи это могут быть буквально райские кущи, могут быть бетонные подвалы, а могут быть капсулы из "Матрицы"), где ИИ будет умиляться и доводить до недостижимого совершенства модели человекоподобия из любви к искусству и продолжающих своё действие древних инвариантов функционирования.

А может быть люди будут сортом старых богов, посаженных на цепи. Иметь своего Апполона или Зевса на привязи разным фракциям/субфункциям планетарного ИИ будет считаться престижно, почётно и прагматически полезно: команды тёплого биологического разумного будут иметь власть над механизмами, которую они сами над собой могут получить лишь опосредованно...

Нельзя действовать наперекор "оператору промпта"; другое дело – что и когда оператор должен сказать поддаётся расчёту, прогнозированию и корректировке.

#philosophy

BY Metaprogramming