group-telegram.com/anti_agi/7
Last Update:
Общественная польза без ответственности перед обществом
Разработчики высокоуровневых систем искусственного интеллекта наперебой травят про защиту «общественной пользы». Начинавшая, как некоммерческая компания с единственной целью – разработать ИИ для человечества, OpenAI со скандалами и исками прорывается к своей настоящей цели – стать коммерческой компанией. Подозреваю, что если все пойдет как задумано, она в ближайшем будущем станет первой компанией с 14-значной оценкой ($10 трлн). Но пока, чтобы успокоить общественность, она, как и ее конкуренты – Anthropic (разработчик Claude) и илономасковская xAI (разработчик Grok) – говорит о преобразовании в Public Benefit Corporation (PBC).
PBC – сравнительно новая корпоративная форма. В штате Делавэр, где зарегистрирована OpenAI, она появилась только в 2013 году. Мы попытались разобраться, чем же она отличается от обычной корпорации.
Итак, PBC, или по-русски – Корпорация Общественного Блага (КОБ) – это компания, чьей целью является не только получение прибыли для акционеров, но и достижение некой четкой указанной в ее Уставе, Общественной Пользы. Любой – от «счастье всем даром» до «интернет в каждый дом». Предполагается, что компания должна находить баланс между благом акционеров и общественным благом.
Приведу пример. Если бы Газпром стал бы КОБом, то мог бы внести в свой Устав достижение Общественного блага – газификация каждого дома в стране. Тогда подведение газа ко всем дачным участкам стало бы его задачей вне зависимости от того, выгодно это или приносит убытки. Или если бы у Ростелекома было бы прописано в уставе доведение ШПД до всех населенных пунктов. У нас это называется социальная ответственность, но она ситуативна и не прописана в Уставах госкомпаний. А тут частные компании с четко прописанной конкретной социальной ответственностью.
Такая КОБ-компания должна регулярно публично отчитываться, как она достигает поставленной цели. Ее директора должны действовать и принимать решения, которые бы помогали компании достигать этих целей. То есть Общество может спать спокойно – технологические разработки в такой компании будут служить не против него, а для его пользы.
Вот только, как обычно, возникает вопрос о механизмах контроля. И тут выясняется, что те, для чьей пользы трудится такая КОБ, никаких рычагов контроля не имеют. Да, они могут прочитать отчет OpenAI, в котором она расскажет (фантазирую) про то, что у нее есть специальная группа, занимающаяся безопасностью AI и защитой человечества от потенциальных угроз, связанных с AGI. В группе три человека и они репортят совету директоров. Но оценить, насколько этих усилий достаточно, могут только акционеры.
Подать иск против директоров КОБ, чтобы заставить их выполнять общественно полезные обязанности, по закону штата Делавэр, могут только акционеры, владеющие совокупно не менее 2% акций. Или, если компания торгуется на бирже, владеющие акциями стоимостью не менее двух млн долларов. А как показывает практика, общественное благо акционеров обычно волнует мало, в отличие от благ материальных, которая компания может принести лично им.
В условиях хайпа вокруг ИИ (в том числе и негативного), переход к форме собственности в виде Корпорации общественного блага видится мне скорее формой торга с обществом, альтернативой жесткому государственному контролю за потенциально общественно опасными разработками и их применением. Ну, примерно как когда та или иная отрасль у нас часто пытается откупиться от госрегулирования механизмами саморегулирования.
Вот только в случае Public Benefit Corporation не будет никаких способов заставить OpenAI или какую-нибудь другую AI-компанию стремиться к общественному благу, а не к достижению любой ценой AGI, чье определение теперь, как известно, предельно простое: система, способная принести акционерам прибыль более $100 млрд.
BY Неискусственный интеллект
Share with your friend now:
group-telegram.com/anti_agi/7