эйай ньюз

Апдейт по SB 1047 - Калифорнийскому законопроекту для регуляции ИИ

TLDR: прямую угрозу маленьким разработчикам пока убрали, но большой опенсорс это не спасёт. И всё ещё законопроект возлагает ответственность на автора модели, а не на пользователя.

Авторы SB-1047, о котором я писал в мае внесли ряд правок. Тогда законопроект был настолько плохо написан, что против него протестовали даже Anthropic. Я прочитал поправки, вот суть:

➖ Убрали пункт, где под ограничения подпадали модели "схожие по возможностям к моделям подпадающим под закон". Это был самый адовый пункт, который в лучшем случае заморозил бы опенсорс на уровне 2024 года, а в худшем мог бы запретить практически любую тренировку.

➖ Регулировать собираются модели, которые тренировались на 1e26 flops и более чем ста миллионах долларов компьюта. То есть сейчас, когда 1e26 стоит $150-300m, под ограничение подпадают модели с 1e26 flops. Через год-два, когда компьют подешевеет, будут подпадать только модели которые стоят дороже ста миллионов долларов.

➖ Улучшили ситуацию с ответственностью разрабов моделей за файнтюны - теперь модели, которые тюнили на более чем 3e25 flops считаются новыми моделями, и создатели оригинала не ответственны за их действия.

➖ Все суммы в законопроекте теперь указаны в долларах 2025 года и будут поправляться на инфляцию.

➖ Добавили кучу возможных штрафных санкций, например штраф на сумму до 10% стоимости компьюта, использованного для тренировки модели.

➖ Созданный орган контроля сможет менять определения моделей, подпадающих под контроль, каждый год без необходимости проводить новый закон. То есть, теоретически, 1 января 2027 года регулятор имеет право запретить всё что ему вздумается. Ни разу не пространство для regulatory capture, да-да.

➖ Разработчики моделей теперь будут должны каждый год, начиная с 2028, проходить независимый аудит на соответствие регуляциям.

Стало местами лучше, но законопроект всё ещё лажа:

🟥 Идея ответственности разработчиков моделей за использование моделей крайне плохая и опасная. По такой логике можно заявить что Боинг ответственен за события 11 сентября 2001 года.

🟥 Определение "Critical harm", которое в законе даёт право регулятору накладывать штрафные санкции, вплоть до удаления модели, очень жёсткое: хакерская атака на 500 миллионов долларов это не такой редкий случай, а в законе не указано насколько сильно модель должна ей поспособствовать.

🟥 Давать регулятору право решать, что всё таки является его зоной контроля – это очень плохая идея.

Самое смешное тут то, что авторы законопроекта проводили ряд публичных встреч, где говорили, что хотят сделать менее драконовский закон чем European AI Act. Такое ощущение, что даже не пытались.

@ai_newz

www.group-telegram.com/sg/ai_newz.com/2998

19.7K viewsedited  Jul 13, 2024 at 17:00

Апдейт по SB 1047 - Калифорнийскому законопроекту для регуляции ИИ

TLDR: прямую угрозу маленьким разработчикам пока убрали, но большой опенсорс это не спасёт. И всё ещё законопроект возлагает ответственность на автора модели, а не на пользователя.

Авторы SB-1047, о котором я писал в мае внесли ряд правок. Тогда законопроект был настолько плохо написан, что против него протестовали даже Anthropic. Я прочитал поправки, вот суть:

➖ Убрали пункт, где под ограничения подпадали модели "схожие по возможностям к моделям подпадающим под закон". Это был самый адовый пункт, который в лучшем случае заморозил бы опенсорс на уровне 2024 года, а в худшем мог бы запретить практически любую тренировку.

➖ Регулировать собираются модели, которые тренировались на 1e26 flops и более чем ста миллионах долларов компьюта. То есть сейчас, когда 1e26 стоит $150-300m, под ограничение подпадают модели с 1e26 flops. Через год-два, когда компьют подешевеет, будут подпадать только модели которые стоят дороже ста миллионов долларов.

➖ Улучшили ситуацию с ответственностью разрабов моделей за файнтюны - теперь модели, которые тюнили на более чем 3e25 flops считаются новыми моделями, и создатели оригинала не ответственны за их действия.

➖ Все суммы в законопроекте теперь указаны в долларах 2025 года и будут поправляться на инфляцию.

➖ Добавили кучу возможных штрафных санкций, например штраф на сумму до 10% стоимости компьюта, использованного для тренировки модели.

➖ Созданный орган контроля сможет менять определения моделей, подпадающих под контроль, каждый год без необходимости проводить новый закон. То есть, теоретически, 1 января 2027 года регулятор имеет право запретить всё что ему вздумается. Ни разу не пространство для regulatory capture, да-да.

➖ Разработчики моделей теперь будут должны каждый год, начиная с 2028, проходить независимый аудит на соответствие регуляциям.

Стало местами лучше, но законопроект всё ещё лажа:

🟥 Идея ответственности разработчиков моделей за использование моделей крайне плохая и опасная. По такой логике можно заявить что Боинг ответственен за события 11 сентября 2001 года.

🟥 Определение "Critical harm", которое в законе даёт право регулятору накладывать штрафные санкции, вплоть до удаления модели, очень жёсткое: хакерская атака на 500 миллионов долларов это не такой редкий случай, а в законе не указано насколько сильно модель должна ей поспособствовать.

🟥 Давать регулятору право решать, что всё таки является его зоной контроля – это очень плохая идея.

Самое смешное тут то, что авторы законопроекта проводили ряд публичных встреч, где говорили, что хотят сделать менее драконовский закон чем European AI Act. Такое ощущение, что даже не пытались.

@ai_newz

BY эйай ньюз