group-telegram.com/vadim8chaly/396
Last Update:
В ИИ есть понятие "меса-оптимизатор". Это такая система внутри системы-оболочки, которая оптимизирует работу оболочки - достижение ею целей, получение вознаграждения. Имеет свойство возникать сама, иногда давая отрицательные эффекты (взлом вознаграждения, обман человеческого куратора и т.п.). Так вот, похоже, кантианский разум с его стремлением к безусловному, регулятивными идеями и моральным законом - это меса-оптимизатор внутри гоббсианской рациональности (которая сама есть меса-оптимизатор короткой, тупой и беспросветной жизни в войне каждого с каждым). И если мы похожие на ИИ вычислительные системы, то разум тоже мог сам возникнуть после долгого и беспощадного отбора естественной историей. Правда, у ИИ пока в сторону хитрости меса-оптимизация развивается, не в сторону нравственности. Макиавелли, не Кант. Отрастит ли имитацию разума, или не успеет? Вот вопрос.
(Продолжаю читать препринты и форумы, у разработчиков крышу сносит, и это, видимо, заразно)
BY vadim.chaly
Warning: Undefined variable $i in /var/www/group-telegram/post.php on line 260
Share with your friend now:
group-telegram.com/vadim8chaly/396