В ИИ есть понятие "меса-оптимизатор". Это такая система внутри системы-оболочки, которая оптимизирует работу оболочки - достижение ею целей, получение вознаграждения. Имеет свойство возникать сама, иногда давая отрицательные эффекты (взлом вознаграждения, обман человеческого куратора и т.п.). Так вот, похоже, кантианский разум с его стремлением к безусловному, регулятивными идеями и моральным законом - это меса-оптимизатор внутри гоббсианской рациональности (которая сама есть меса-оптимизатор короткой, тупой и беспросветной жизни в войне каждого с каждым). И если мы похожие на ИИ вычислительные системы, то разум тоже мог сам возникнуть после долгого и беспощадного отбора естественной историей. Правда, у ИИ пока в сторону хитрости меса-оптимизация развивается, не в сторону нравственности. Макиавелли, не Кант. Отрастит ли имитацию разума, или не успеет? Вот вопрос. (Продолжаю читать препринты и форумы, у разработчиков крышу сносит, и это, видимо, заразно)
В ИИ есть понятие "меса-оптимизатор". Это такая система внутри системы-оболочки, которая оптимизирует работу оболочки - достижение ею целей, получение вознаграждения. Имеет свойство возникать сама, иногда давая отрицательные эффекты (взлом вознаграждения, обман человеческого куратора и т.п.). Так вот, похоже, кантианский разум с его стремлением к безусловному, регулятивными идеями и моральным законом - это меса-оптимизатор внутри гоббсианской рациональности (которая сама есть меса-оптимизатор короткой, тупой и беспросветной жизни в войне каждого с каждым). И если мы похожие на ИИ вычислительные системы, то разум тоже мог сам возникнуть после долгого и беспощадного отбора естественной историей. Правда, у ИИ пока в сторону хитрости меса-оптимизация развивается, не в сторону нравственности. Макиавелли, не Кант. Отрастит ли имитацию разума, или не успеет? Вот вопрос. (Продолжаю читать препринты и форумы, у разработчиков крышу сносит, и это, видимо, заразно)
BY vadim.chaly
Warning: Undefined variable $i in /var/www/group-telegram/post.php on line 260
The message was not authentic, with the real Zelenskiy soon denying the claim on his official Telegram channel, but the incident highlighted a major problem: disinformation quickly spreads unchecked on the encrypted app. Telegram was founded in 2013 by two Russian brothers, Nikolai and Pavel Durov. "There is a significant risk of insider threat or hacking of Telegram systems that could expose all of these chats to the Russian government," said Eva Galperin with the Electronic Frontier Foundation, which has called for Telegram to improve its privacy practices. Telegram does offer end-to-end encrypted communications through Secret Chats, but this is not the default setting. Standard conversations use the MTProto method, enabling server-client encryption but with them stored on the server for ease-of-access. This makes using Telegram across multiple devices simple, but also means that the regular Telegram chats you’re having with folks are not as secure as you may believe. "For Telegram, accountability has always been a problem, which is why it was so popular even before the full-scale war with far-right extremists and terrorists from all over the world," she told AFP from her safe house outside the Ukrainian capital.
from hk
