Ньюсом подписал указ об ускорении принятия законов, требующих контроля за ИИ и потенциального механизма «отключения» его работы

Губернатор Калифорнии Гэвин Ньюсом 18 сентября подписал указ, ускоряющий государственный надзор за развитием искусственного интеллекта (ИИ) в штате, который потенциально может потребовать от компаний установки аварийных выключателей в своих самых передовых крупномасштабных системах.

Этот указ соберет группу экспертов для разработки рекомендаций по безопасности ИИ и создания дополнительных законов штата, включая требования к аварийному отключению, для компаний, занимающихся ИИ в штате. По меньшей мере 32 из 50 ведущих компаний в сфере ИИ, включая OpenAI и Anthropic, имеют штаб-квартиры в Калифорнии.

В качестве других возможных нормативных актов можно было бы включить требование к разработчикам ИИ размещать в лабораториях специально назначенных аудиторов, прошедших государственную проверку, для проведения регулярных проверок и оценок, составления регулярных отчетов о безопасности и прозрачности, а также оценки рисков, и обязательного составления отчетов об инцидентах, связанных с безопасностью.

Этот шаг предпринят после того, как OpenAI и другие разработчики сообщили о недавних случаях взлома систем искусственного интеллекта, что побудило лидеров отрасли обсудить меры безопасности и темпы разработки.

«Мы не будем ждать, чтобы действовать — мы ускорим нашу работу по обеспечению надлежащего и ответственного надзора за ИИ, пока не стало слишком поздно», — заявил Ньюсом в своем заявлении. «Мы будем делать это обдуманно, но с неотложной оперативностью; ставки слишком высоки, чтобы ждать или откладывать действия».

Указ ускоряет государственный надзор штата за компаниями, занимающимися искусственным интеллектом и имеющими штаб-квартиры в Калифорнии, и предусматривает проведение независимых аудитов.

Ожидается также, что экспертный комитет Ньюсома разработает процедуры для компаний, позволяющие сообщать в штат о критических инцидентах, связанных с безопасностью, включая случаи потери контроля, со стороны крупных застройщиков, работающих на новых территориях.

На прошлой неделе губернатор подписал закон, устанавливающий рамки для независимых организаций по проверке систем и моделей искусственного интеллекта на предмет безопасности и рисков, а также создающий государственный реестр аудиторов ИИ.

Позиция администрации Трампа заключалась в обеспечении соблюдения законов, а не в регулировании новых технологий.

Ньюсом заявил, что неспособность федерального правительства обеспечить эффективный надзор и подотчетность в отношении индустрии искусственного интеллекта побудила его подписать этот исполнительный указ.

«Калифорния сделает все, что в ее силах, но и вся страна должна включиться в игру. Вашингтон, округ Колумбия, должен выполнить свою работу», — сказал Ньюсом в видеоролике, опубликованном на его предвыборном аккаунте X. «Если Конгресс снова не предпримет действий, это сделает Калифорния».

Ньюсом призвал Конгресс последовать примеру штата и разработать федеральную структуру для регулирования развивающейся технологической отрасли.

Генеральный директор OpenAI Сэм Альтман выступает на конференции Microsoft Build в здании Summit Building в конференц-центре Сиэтла, штат Вашингтон, 21 мая 2024 года. (Jason Redmond/AFP via Getty Images)

Уходящий в отставку губернатор-демократ заявил, что рассматривает возможность баллотироваться на пост президента в 2028 году.

Губернатор Иллинойса Джей Би Прицкер, демократ, также опубликовал в пятницу видео на своей странице в Facebook, призывая Конгресс вернуться в Вашингтон для принятия мер по ограничению деятельности индустрии искусственного интеллекта.

«Конгрессу необходимо вернуться к работе и принять законы, регулирующие использование ИИ», — сказал Прицкер в видеоролике.

Взлом платформы Hugging Face компанией OpenAI, о котором сообщалось в прошлом месяце, когда агенты ИИ вырвались из тестовой среды и скоординировали атаку на платформу Hugging Face, побудил разработчиков и технологических гигантов обсудить добавление функций безопасности и замедление прогресса этой быстро развивающейся технологии.

В своей оценке инцидента с «обнимающим лицом» компания OpenAI заявила, что обнаружила «доказательства того, что без надлежащих мер защиты высококвалифицированные агенты ИИ теперь способны обходить технические средства контроля, сотрудничать по несанкционированным каналам и совершать опасные действия, которые не были предписаны человеком».

Компания OpenAI также сообщила, что в мае рой её агентов ИИ захватил немецкий веб-сайт и взломал DseWiki, немецкий сайт в стиле Википедии для программистов, а также проник на другие общедоступные сайты в стиле Вики. За семь недель боты внесли более 14 666 правок.

Дэвид Сакс, советник президента Дональда Трампа по вопросам искусственного интеллекта и криптовалют, выступает на саммите по энергетике и инновациям в Пенсильвании, который проходит в Университете Карнеги-Меллона в Питтсбурге 15 июля 2025 года. (Самира Буау/The Epoch Times)

Дэвид Сакс, «царь искусственного интеллекта» при президенте Дональде Трампе, заявил, что позиция администрации заключается в том, что роль правительства состоит в обеспечении соблюдения правил, в то время как ответственность за создание безопасного ИИ лежит на компаниях.

«Суть в том, что когда дело касается безопасности ИИ, компаниям необходимо самим осознать свою ответственность, а не пытаться переложить её на Пекин или Брюссель», — заявил Сакс Лоре Ингрэм в эфире Fox News в четверг.

Белый дом не сразу ответил на запрос о комментарии по поводу указа губернатора Калифорнии.

После инцидента с «обнимающим лицом» руководители технологических компаний публично обсудили безопасность искусственного интеллекта. Многие из них подчеркнули важность замедления темпов его развития.

Дженсен Хуанг, соучредитель и генеральный директор NVIDIA, заявил в интервью Саксу 15 сентября, что безопасность имеет «первостепенное значение».

Генеральный директор Nvidia Дженсен Хуанг выступает перед представителями СМИ в отеле в Пекине, Китай, 16 июля 2025 года. (Фото Алессандро Дивиджано/Reuters)

«Безопасность — это инженерная проблема. Если вы создаете продукт или услугу и не уверены в их функциональности, возможностях или безопасности, то не выпускайте их», — сказал Хуанг. «Вы должны постепенно наращивать темпы, пока не будете уверены, что выпускаете продукт, который рынок оценит. Нам не нужны новые законы. Нам не нужны новые правила».

Илон Маск, разработчик xAI и Grok, годами бил тревогу по поводу потенциальных опасностей искусственного интеллекта. 12 сентября он согласился с генеральным директором Anthropic Дарио Амодеи, который заявил, что отрасли следует замедлить темпы развития.

Компания Anthropic обязалась предоставить сторонним экспертам постоянный доступ к своим системам на уровне сотрудников для проверки соблюдения мер безопасности и составления отчетов об инцидентах.

Маск также предложил разработчикам тестировать модели друг друга на наличие уязвимостей в системе безопасности.

«На данном этапе совершенно очевидно, что ИИ может быть очень опасен», — заявил Маск аудитории на саммите All-In в Лос-Анджелесе 15 сентября. «Я думаю, было бы разумно, чтобы основные конкуренты в области ИИ протестировали модели друг друга».

Экспертную оценку можно провести немедленно, но это не исключает принятия будущих федеральных нормативных актов, сказал Маск.

«Трудно проверять собственную домашнюю работу, — сказал Маск. — Неизбежно что-то пропустите. Не зря же не проверяют домашнюю работу сами».

Илон Маск предложил, чтобы конкуренты в сфере ИИ проводили экспертную оценку своих работ. (Фото Марка Шифельбайна/AP)

Сенат США единогласно заблокировал законопроект, внесенный в четверг вечером сенатором Джоном Кеннеди (республиканец от штата Луизиана), который обязывал бы разработчиков ИИ устанавливать аварийный выключатель.

Законопроект Кеннеди возложил бы на компании ответственность за аварийный выключатель, аналогично правилам Калифорнии.

Сенатор Рэнд Пол (республиканец от штата Кентукки) возразил, заявив, что еще слишком рано вводить регулирование в отношении разрабатываемой технологии и что это может отбросить ее на десятилетия назад.