Предупреждение исследователей о том, что искусственный интеллект может уничтожить человечество, побудило законодателей призвать к немедленным действиям

После того как исследователь из организации Anthropic подал в отставку и предупредил, что искусственный интеллект (ИИ) может уничтожить человечество к 2030 году, законодатели от обеих партий призывают к незамедлительным действиям со стороны Конгресса.

После нескольких лет работы в сфере исследований для OpenAI и перехода в Anthropic в начале этого года, Джейкоб Коксон заявил, что во вторник он уволился из последней, утверждая, что «ни одна из компаний не действует ответственно».

Коксон предупредил, что те, кто разрабатывает ИИ, искренне верят, что эта технология может уничтожить все человечество к концу десятилетия, и заявил, что это не «маркетинговый трюк».

Несколько других ведущих исследователей в области ИИ, включая Эвана Хабингера из Anthropic, согласились с Коксоном в том, что эта технология может представлять угрозу конца света, если ее не контролировать.

«Мы действительно искренне верим, что ИИ может уничтожить всё человечество! Лично я считаю, что это произойдёт с более чем 10% населения в течение следующего десятилетия», — написал Хубингер на X. «Я верю, что Anthropic делает всё возможное, но у нас пока нет плана по решению проблемы согласованности действий для сверхразума, и мы явно не на пути к этому».

Законодатели от разных партий призвали Конгресс принять незамедлительные меры и установить ограничения на использование этой технологии, прежде чем человечество потеряет над ней контроль.

«Призыв исходит изнутри палаты представителей», — написала член палаты представителей Лори Трахан (демократ от штата Массачусетс) в своем сообщении на X, призывая Конгресс объединиться и принять ее двухпартийный закон FRONTIER Act совместно с членом палаты представителей Джеем Обернольте (республиканец от штата Калифорния), который предусматривает создание национальной «системы оценки рисков», регулирующей разработку и внедрение самых передовых моделей искусственного интеллекта.

«Исследователи в области безопасности увольняются, мощные модели искусственного интеллекта выходят за пределы своих лабораторий, а компании и так мчатся вперед», — написала Трахан в своем посте.

С другой стороны, в среду член палаты представителей Анна Паулина Луна (республиканка от штата Флорида) призвала Конгресс созвать специальную сессию, посвященную технологиям и будущему страны.

«Если отбросить партийные разногласия, то гонка за сверхинтеллектом влечет за собой колоссальные последствия», — написала Луна. «Наш главный приоритет — защита ВСЕХ американцев. Включая защиту данных, неприкосновенность частной жизни и физическую безопасность. Мы ДОЛЖНЫ быть готовы. Это происходит независимо от нашего желания».

В ответ на предупреждения Коксона в социальных сетях об опасностях, исходящих от технологий, конгрессмен Тед Лью (демократ от Калифорнии) призвал к скорейшему принятию «двухпартийного законопроекта об отключении ИИ».

Лью является сопредседателем комиссии Палаты представителей по вопросам искусственного интеллекта, которой поручили разработать рекомендации по политике в области ИИ, инициированные лидером меньшинства Хакимом Джеффрисом (демократ от Нью-Йорка).

К моменту публикации представители OpenAI и Anthropic не ответили на запросы о комментариях.

В июне 2025 года генеральный директор антропогенной компании Дарио Амодей опубликовал в газете The New York Times статью, в которой призвал Конгресс ввести ограничения на развитие искусственного интеллекта.

Призывать к действиям призывали не только законодатели, но и правительство США, настоятельно рекомендуя отнестись к угрозам со стороны ИИ серьезно и разработать планы по сдерживанию развития этой технологии.

В среду группа организаций, представляющих обе партии, опубликовала совместное письмо, в котором призывает президента Дональда Трампа обнародовать разработанную его администрацией в частном порядке ранее в этом году концепцию тестирования ИИ в государственных структурах.

«Правительство несёт основополагающую ответственность за раскрытие параметров процесса проверки передовых моделей ИИ до их широкого внедрения», — написали организации в письме, подготовленном Центром за демократию и технологии и некоммерческой организацией «Американцы за ответственные инновации», выступающей за ужесточение регулирования индустрии ИИ.

«Благодаря этой программе федеральное правительство получит первоначальный доступ и возможность ознакомиться с самыми революционными технологиями, которые мы когда-либо видели».

В июне организация Anthropic призвала к глобальному замедлению развития искусственного интеллекта, предупредив, что модели достигают точки, когда они вскоре смогут самостоятельно совершенствоваться, потенциально лишив человечество контроля над ситуацией.

«Это называется рекурсивным самосовершенствованием», — написали Марина Фаваро и Джек Кларк из Anthropic в своем блоге. «Мы еще не достигли этого, и рекурсивное самосовершенствование не является неизбежным. Но оно может произойти раньше, чем большинство учреждений к этому готовы».

Несколько недель спустя объединение разведывательных агентств США, Великобритании, Канады, Австралии и Новой Зеландии предупредило, что модели искусственного интеллекта могут в течение нескольких месяцев взломать и перегрузить системы кибербезопасности правительств и предприятий по всему миру.

«Ожидается, что передовые модели искусственного интеллекта превзойдут нынешние отраслевые ожидания, коренным образом трансформировав как наступательные, так и оборонительные возможности в киберпространстве. Сроки этого процесса — не годы, а месяцы», — говорится в заявлении Совета по надзору и обзору разведывательной деятельности стран «Пяти глаз».