Telegram Group & Telegram Channel
Общественная польза без ответственности перед обществом

Разработчики высокоуровневых систем искусственного интеллекта наперебой травят про защиту «общественной пользы». Начинавшая, как некоммерческая компания с единственной целью – разработать ИИ для человечества, OpenAI со скандалами и исками прорывается к своей настоящей цели – стать коммерческой компанией. Подозреваю, что если все пойдет как задумано, она в ближайшем будущем станет первой компанией с 14-значной оценкой ($10 трлн). Но пока, чтобы успокоить общественность, она, как и ее конкуренты – Anthropic (разработчик Claude) и илономасковская xAI (разработчик Grok) – говорит о преобразовании в Public Benefit Corporation (PBC).

PBC – сравнительно новая корпоративная форма. В штате Делавэр, где зарегистрирована OpenAI, она появилась только в 2013 году. Мы попытались разобраться, чем же она отличается от обычной корпорации.

Итак, PBC, или по-русски – Корпорация Общественного Блага (КОБ) – это компания, чьей целью является не только получение прибыли для акционеров, но и достижение некой четкой указанной в ее Уставе, Общественной Пользы. Любой – от «счастье всем даром» до «интернет в каждый дом». Предполагается, что компания должна находить баланс между благом акционеров и общественным благом.

Приведу пример. Если бы Газпром стал бы КОБом, то мог бы внести в свой Устав достижение Общественного блага – газификация каждого дома в стране. Тогда подведение газа ко всем дачным участкам стало бы его задачей вне зависимости от того, выгодно это или приносит убытки. Или если бы у Ростелекома было бы прописано в уставе доведение ШПД до всех населенных пунктов. У нас это называется социальная ответственность, но она ситуативна и не прописана в Уставах госкомпаний. А тут частные компании с четко прописанной конкретной социальной ответственностью.

Такая КОБ-компания должна регулярно публично отчитываться, как она достигает поставленной цели. Ее директора должны действовать и принимать решения, которые бы помогали компании достигать этих целей. То есть Общество может спать спокойно – технологические разработки в такой компании будут служить не против него, а для его пользы.

Вот только, как обычно, возникает вопрос о механизмах контроля. И тут выясняется, что те, для чьей пользы трудится такая КОБ, никаких рычагов контроля не имеют. Да, они могут прочитать отчет OpenAI, в котором она расскажет (фантазирую) про то, что у нее есть специальная группа, занимающаяся безопасностью AI и защитой человечества от потенциальных угроз, связанных с AGI. В группе три человека и они репортят совету директоров. Но оценить, насколько этих усилий достаточно, могут только акционеры.

Подать иск против директоров КОБ, чтобы заставить их выполнять общественно полезные обязанности, по закону штата Делавэр, могут только акционеры, владеющие совокупно не менее 2% акций. Или, если компания торгуется на бирже, владеющие акциями стоимостью не менее двух млн долларов. А как показывает практика, общественное благо акционеров обычно волнует мало, в отличие от благ материальных, которая компания может принести лично им.

В условиях хайпа вокруг ИИ (в том числе и негативного), переход к форме собственности в виде Корпорации общественного блага видится мне скорее формой торга с обществом, альтернативой жесткому государственному контролю за потенциально общественно опасными разработками и их применением. Ну, примерно как когда та или иная отрасль у нас часто пытается откупиться от госрегулирования механизмами саморегулирования.

Вот только в случае Public Benefit Corporation не будет никаких способов заставить OpenAI или какую-нибудь другую AI-компанию стремиться к общественному благу, а не к достижению любой ценой AGI, чье определение теперь, как известно, предельно простое: система, способная принести акционерам прибыль более $100 млрд.



group-telegram.com/anti_agi/7
Create:
Last Update:

Общественная польза без ответственности перед обществом

Разработчики высокоуровневых систем искусственного интеллекта наперебой травят про защиту «общественной пользы». Начинавшая, как некоммерческая компания с единственной целью – разработать ИИ для человечества, OpenAI со скандалами и исками прорывается к своей настоящей цели – стать коммерческой компанией. Подозреваю, что если все пойдет как задумано, она в ближайшем будущем станет первой компанией с 14-значной оценкой ($10 трлн). Но пока, чтобы успокоить общественность, она, как и ее конкуренты – Anthropic (разработчик Claude) и илономасковская xAI (разработчик Grok) – говорит о преобразовании в Public Benefit Corporation (PBC).

PBC – сравнительно новая корпоративная форма. В штате Делавэр, где зарегистрирована OpenAI, она появилась только в 2013 году. Мы попытались разобраться, чем же она отличается от обычной корпорации.

Итак, PBC, или по-русски – Корпорация Общественного Блага (КОБ) – это компания, чьей целью является не только получение прибыли для акционеров, но и достижение некой четкой указанной в ее Уставе, Общественной Пользы. Любой – от «счастье всем даром» до «интернет в каждый дом». Предполагается, что компания должна находить баланс между благом акционеров и общественным благом.

Приведу пример. Если бы Газпром стал бы КОБом, то мог бы внести в свой Устав достижение Общественного блага – газификация каждого дома в стране. Тогда подведение газа ко всем дачным участкам стало бы его задачей вне зависимости от того, выгодно это или приносит убытки. Или если бы у Ростелекома было бы прописано в уставе доведение ШПД до всех населенных пунктов. У нас это называется социальная ответственность, но она ситуативна и не прописана в Уставах госкомпаний. А тут частные компании с четко прописанной конкретной социальной ответственностью.

Такая КОБ-компания должна регулярно публично отчитываться, как она достигает поставленной цели. Ее директора должны действовать и принимать решения, которые бы помогали компании достигать этих целей. То есть Общество может спать спокойно – технологические разработки в такой компании будут служить не против него, а для его пользы.

Вот только, как обычно, возникает вопрос о механизмах контроля. И тут выясняется, что те, для чьей пользы трудится такая КОБ, никаких рычагов контроля не имеют. Да, они могут прочитать отчет OpenAI, в котором она расскажет (фантазирую) про то, что у нее есть специальная группа, занимающаяся безопасностью AI и защитой человечества от потенциальных угроз, связанных с AGI. В группе три человека и они репортят совету директоров. Но оценить, насколько этих усилий достаточно, могут только акционеры.

Подать иск против директоров КОБ, чтобы заставить их выполнять общественно полезные обязанности, по закону штата Делавэр, могут только акционеры, владеющие совокупно не менее 2% акций. Или, если компания торгуется на бирже, владеющие акциями стоимостью не менее двух млн долларов. А как показывает практика, общественное благо акционеров обычно волнует мало, в отличие от благ материальных, которая компания может принести лично им.

В условиях хайпа вокруг ИИ (в том числе и негативного), переход к форме собственности в виде Корпорации общественного блага видится мне скорее формой торга с обществом, альтернативой жесткому государственному контролю за потенциально общественно опасными разработками и их применением. Ну, примерно как когда та или иная отрасль у нас часто пытается откупиться от госрегулирования механизмами саморегулирования.

Вот только в случае Public Benefit Corporation не будет никаких способов заставить OpenAI или какую-нибудь другую AI-компанию стремиться к общественному благу, а не к достижению любой ценой AGI, чье определение теперь, как известно, предельно простое: система, способная принести акционерам прибыль более $100 млрд.

BY Неискусственный интеллект




Share with your friend now:
group-telegram.com/anti_agi/7

View MORE
Open in Telegram


Telegram | DID YOU KNOW?

Date: |

Markets continued to grapple with the economic and corporate earnings implications relating to the Russia-Ukraine conflict. “We have a ton of uncertainty right now,” said Stephanie Link, chief investment strategist and portfolio manager at Hightower Advisors. “We’re dealing with a war, we’re dealing with inflation. We don’t know what it means to earnings.” Pavel Durov, Telegram's CEO, is known as "the Russian Mark Zuckerberg," for co-founding VKontakte, which is Russian for "in touch," a Facebook imitator that became the country's most popular social networking site. Ukrainian President Volodymyr Zelensky said in a video message on Tuesday that Ukrainian forces "destroy the invaders wherever we can." Telegram has gained a reputation as the “secure” communications app in the post-Soviet states, but whenever you make choices about your digital security, it’s important to start by asking yourself, “What exactly am I securing? And who am I securing it from?” These questions should inform your decisions about whether you are using the right tool or platform for your digital security needs. Telegram is certainly not the most secure messaging app on the market right now. Its security model requires users to place a great deal of trust in Telegram’s ability to protect user data. For some users, this may be good enough for now. For others, it may be wiser to move to a different platform for certain kinds of high-risk communications. But Kliuchnikov, the Ukranian now in France, said he will use Signal or WhatsApp for sensitive conversations, but questions around privacy on Telegram do not give him pause when it comes to sharing information about the war.
from es


Telegram Неискусственный интеллект
FROM American