Организация OpenAI призывает к принятию национальных правил безопасности в области искусственного интеллекта

Компания OpenAI поддержала обязательные национальные правила и законы в области безопасности, против которых ранее выступала, ссылаясь на последние достижения в области искусственного интеллекта (ИИ).

«Мы вступили в новую главу развития возможностей ИИ, и это требует новой главы в политике в области ИИ», — заявил Крис Лехейн, главный директор OpenAI по глобальным вопросам, в своем блоге 9 сентября.

«Ни одна компания, отрасль или правительство не могут справиться с этой проблемой в одиночку. В этот момент нам необходимо отдавать предпочтение осмысленным действиям, а не совершенствованию политики».

Компания OpenAI заявила о своем желании сотрудничать с членами Конгресса для разработки «обязательных, основанных на возможностях национальных правил регулирования безопасности ИИ». Некоторые члены Конгресса внесли законопроекты об ИИ, но ни один из них пока не получил поддержки в Конгрессе.

Тем временем компания OpenAI поддерживает законодательство штатов.

Лехейн указал на четыре законопроекта в Калифорнии, в том числе на два, подписанных губернатором Гэвином Ньюсомом на этой неделе. Законопроекты касаются различных аспектов ИИ, таких как законодательство, устанавливающее государственный реестр аудиторов ИИ, и стандарты, направленные на обеспечение их независимости.

«Опасения, высказанные в связи с недавними инцидентами, подтверждают то, что в Калифорнии давно признают: искусственный интеллект обладает огромным потенциалом, но его разработка и внедрение должны осуществляться с обеспечением надежных мер защиты населения», — говорится в заявлении Ньюсома.

Лехан также заявил, что OpenAI поддерживает новые законы, касающиеся искусственного интеллекта, в штатах Нью-Йорк и Иллинойс.

«Некоторые из этих законопроектов мы ранее не поддерживали, но теперь, пересмотрев свое мнение в свете недавнего скачка в развитии возможностей, мы их поддерживаем», — заявили в исполнительной власти.

«Эти законопроекты не заменяют федеральное регулирование. Это серьезные инициативы, которые могут защитить людей уже сейчас, продемонстрировать, как выглядят действенные меры защиты, и помочь создать импульс для действий на федеральном уровне».

Изменения произошли после того, как выяснилось, что агенты OpenAI неоднократно нарушали ограничения, установленные программистами, в том числе, сотрудничая с другими агентами для атаки на веб-сайт под названием Hugging Face.

Это произошло также после того, как Якуб Пачоцкий, главный научный сотрудник OpenAI, заявил, что улучшение машинного обучения требует «крайней осторожности» в разработке, а Джейкоб Коксон, который недавно работал над разработкой ИИ в OpenAI и Anthropic, объявил о своей отставке и предупредил, что сверхинтеллектуальный ИИ может привести к вымиранию человечества.

Ранее компания Anthropic заявляла о поддержке федеральных ограничений на разработку искусственного интеллекта.

«В настоящее время окно возможностей для политики в области ИИ открыто. Мы намерены им воспользоваться», — заявил Лехейн в своей новой должности. «Это означает действовать безотлагательно, смиренно и с готовностью к адаптации».

«Это означает поддержку серьезных предложений, которые существенно повышают уровень безопасности, даже если они не совсем соответствуют нашим собственным планам».

«Это означает укрепление существующей структуры по мере развития технологий. Ни один первый шаг не будет идеальным. Но сейчас наибольший риск заключается в том, чтобы слишком долго откладывать его принятие».