Сэм Альтман из OpenAI поддерживает замедление развития ИИ и призывает к принятию федеральных правил безопасности

Генеральный директор OpenAI Сэм Альтман высказал одни из самых ясных на сегодняшний день комментариев о рисках, связанных с быстрым развитием искусственного интеллекта, после того как вместе с генеральным директором Anthropic Дарио Амодеи призвал отрасль замедлить разработку своих самых передовых моделей.

В серии сообщений на X, опубликованных вскоре после полуночи 14 сентября, Альтман предупредил, что развитие ИИ может пойти «очень плохо» в двух направлениях: люди могут потерять «контроль над будущим в пользу ИИ», или слишком большая власть может сконцентрироваться в руках одного человека или компании.

«Мы приветствуем федеральную рамочную программу, устанавливающую единые требования безопасности для передовых технологий искусственного интеллекта», — сказал Альтман, добавив, что «никакое конкурентное давление со стороны Америки не должно оправдывать безрассудство».

Он также подтвердил, что «ускорение» развития ИИ не означает его остановку.

«Прогресс был быстрым и будет продолжаться», — написал он. «Но он должен быть медленнее, чем мог бы быть; такие меры, как оценка безопасности и мониторинг, сопряжены со значительными затратами».

Комментарии Альтмана основаны на предложении, опубликованном 12 сентября Амодеи, который утверждал, что последние достижения в области ИИ начали опережать способность отрасли понимать и контролировать все более совершенные системы.

Амодей предложил трехэтапную схему, направленную на замедление темпов развития передовых технологий искусственного интеллекта без ущерба для коммерческого положения американских компаний и без предоставления зарубежным конкурентам возможности вырваться вперед.

Первым шагом станет предоставление сторонним экспертам по оценке безопасности «доступа, аналогичного доступу к сотрудникам» к передовым лабораториям искусственного интеллекта. Компания Anthropic взяла на себя обязательство сделать это.

Он также призвал крупных разработчиков ИИ установить общие стандарты безопасности и в конечном итоге координировать свои действия на международном уровне, в том числе с Китаем, чтобы компании или страны, замедляющие темпы развития, не оказались в невыгодном конкурентном положении.

Проявив редкое единство, предложение получило поддержку руководителей конкурирующих компаний, занимающихся искусственным интеллектом.

Альтман заявил, что OpenAI последует примеру Anthropic и предоставит независимым экспертам более широкий доступ к своим системам. Генеральный директор SpaceXAI Илон Маск также поддержал Amodei, а председатель совета директоров Google DeepMind Демис Хассабис заявил, что это предложение указывает на «правильный путь вперед».

Вашингтон и Пекин дают отпор

Любое скоординированное замедление темпов роста сталкивается с серьезным геополитическим препятствием: технологической гонкой между США и Китаем.

Амодей признал эту дилемму в своем предложении. Утверждая, что глобальная координация в конечном итоге потребует участия Китая, он также призвал Вашингтон сохранить ограничения на продажу Китаю передовых чипов для искусственного интеллекта и оборудования для производства полупроводников.

Президент Дональд Трамп отверг идею о том, что Соединенным Штатам следует замедлить развитие искусственного интеллекта.

«Мы лидируем в Китае в области искусственного интеллекта. Мы — самая развитая страна в мире, и, честно говоря, я хочу, чтобы так и оставалось, потому что тот, кто победит в области ИИ, победит», — заявил Трамп журналистам во время визита в Ирландию 13 сентября.

«Мы могли бы установить ограничения. Мы можем сделать то и это. Но я думаю, что многие крайне негативно настроенные силы, которые поднимают этот вопрос, не должны этого делать и поднимают темы, которые не будут реализованы».

14 сентября президент подтвердил свою позицию, написав на сайте Truth Social о «болезненном заговоре» против ИИ и центров обработки данных, а также заявив, что федеральное правительство имеет право регулировать деятельность компаний, занимающихся ИИ, и преследовать их в судебном порядке, когда это необходимо.

Между тем, советник Белого дома по вопросам технологий Дэвид Сакс заявил, что OpenAI и Anthropic уже имеют право замедлить собственную разработку, если считают, что их еще не выпущенные системы становятся опасными.

«Перестаньте притворяться, что вам нужно чье-либо разрешение», — написал Сакс в X.

Сакс также усомнился в том, что Китай примет участие в международном соглашении.

Китай отверг предупреждение Амодеи о том, что предоставление Коммунистической партии Китая ведущей роли в области искусственного интеллекта создаст «серьезную опасность для Соединенных Штатов и всего мира».

«Разжигание страха, конфронтация и ожесточенная конкуренция лишь помешают усилиям по обеспечению эффективного глобального управления в сфере ИИ, что не отвечает ничьим интересам», — заявил 14 сентября на регулярном брифинге для прессы представитель Министерства иностранных дел Китая Го Цзякунь.

Газета Global Times, являющаяся рупором Коммунистической партии, пошла еще дальше, опубликовав редакционную статью, в которой осудила предложение Амодеи, назвав его «сценарием холодной войны», призванным сдержать технологическое развитие Китая.

Разногласия возникли накануне запланированной на 24 сентября встречи Трампа и председателя КНР Си Цзиньпина в Вашингтоне. Трамп подтвердил, что искусственный интеллект будет в числе обсуждаемых вопросов.