Telegram Group & Telegram Channel
Telegram Group » Italy » vadim.chaly » Telegram Webview » Post 396
vadim.chaly
В ИИ есть понятие "меса-оптимизатор". Это такая система внутри системы-оболочки, которая оптимизирует работу оболочки - достижение ею целей, получение вознаграждения. Имеет свойство возникать сама, иногда давая отрицательные эффекты (взлом вознаграждения, обман человеческого куратора и т.п.). Так вот, похоже, кантианский разум с его стремлением к безусловному, регулятивными идеями и моральным законом - это меса-оптимизатор внутри гоббсианской рациональности (которая сама есть меса-оптимизатор короткой, тупой и беспросветной жизни в войне каждого с каждым). И если мы похожие на ИИ вычислительные системы, то разум тоже мог сам возникнуть после долгого и беспощадного отбора естественной историей. Правда, у ИИ пока в сторону хитрости меса-оптимизация развивается, не в сторону нравственности. Макиавелли, не Кант. Отрастит ли имитацию разума, или не успеет? Вот вопрос.
(Продолжаю читать препринты и форумы, у разработчиков крышу сносит, и это, видимо, заразно)
www.group-telegram.com/it/vadim8chaly.com/396
279 viewsVadim Chaly, edited  



group-telegram.com/vadim8chaly/396
Create:
Last Update:

В ИИ есть понятие "меса-оптимизатор". Это такая система внутри системы-оболочки, которая оптимизирует работу оболочки - достижение ею целей, получение вознаграждения. Имеет свойство возникать сама, иногда давая отрицательные эффекты (взлом вознаграждения, обман человеческого куратора и т.п.). Так вот, похоже, кантианский разум с его стремлением к безусловному, регулятивными идеями и моральным законом - это меса-оптимизатор внутри гоббсианской рациональности (которая сама есть меса-оптимизатор короткой, тупой и беспросветной жизни в войне каждого с каждым). И если мы похожие на ИИ вычислительные системы, то разум тоже мог сам возникнуть после долгого и беспощадного отбора естественной историей. Правда, у ИИ пока в сторону хитрости меса-оптимизация развивается, не в сторону нравственности. Макиавелли, не Кант. Отрастит ли имитацию разума, или не успеет? Вот вопрос.
(Продолжаю читать препринты и форумы, у разработчиков крышу сносит, и это, видимо, заразно)

BY vadim.chaly


Warning: Undefined variable $i in /var/www/group-telegram/post.php on line 260

Share with your friend now:
group-telegram.com/vadim8chaly/396

View MORE
Open in Telegram


Telegram | DID YOU KNOW?

Date: |

I want a secure messaging app, should I use Telegram? "There is a significant risk of insider threat or hacking of Telegram systems that could expose all of these chats to the Russian government," said Eva Galperin with the Electronic Frontier Foundation, which has called for Telegram to improve its privacy practices. Telegram boasts 500 million users, who share information individually and in groups in relative security. But Telegram's use as a one-way broadcast channel — which followers can join but not reply to — means content from inauthentic accounts can easily reach large, captive and eager audiences. Pavel Durov, Telegram's CEO, is known as "the Russian Mark Zuckerberg," for co-founding VKontakte, which is Russian for "in touch," a Facebook imitator that became the country's most popular social networking site. The Dow Jones Industrial Average fell 230 points, or 0.7%. Meanwhile, the S&P 500 and the Nasdaq Composite dropped 1.3% and 2.2%, respectively. All three indexes began the day with gains before selling off.
from it


В ИИ есть понятие "меса-оптимизатор". Это такая система внутри системы-оболочки

 vadim.chaly TG
Webview: 396
vadim.chaly.Telegram Webview
vadim.chaly Telegram TG Channel
Telegram Updated:
Telegram vadim.chaly
FROM American