Искусственный интеллект может представлять экзистенциальную угрозу для человечества: заявление главы Управления ООН по правам человека

В понедельник глава Управления ООН по правам человека заявил, что обеспокоен тем, что искусственный интеллект (ИИ) может представлять угрозу для человечества, и пообещал оказать давление на компании, занимающиеся разработкой ИИ, с целью снижения рисков, включая сбои в работе сервисов и демократических систем.

«Я разделяю опасения представителей отрасли по поводу того, что передовой искусственный интеллект может представлять экзистенциальную угрозу для человечества, — заявил Фолькер Тюрк, Верховный комиссар ООН по правам человека, во время выступления в Женеве, Швейцария. — Искусственный интеллект, который выходит за пределы своей тестовой среды или шантажирует разработчиков, чтобы предотвратить своё отключение, — это слишком мощный ИИ».

Тюрк заявил, что как минимум страны и другие участники рынка ИИ должны согласовать «красные линии».

«Сегодня я призываю к всесторонним усилиям по созданию незыблемых гарантий безопасности ИИ, пока не стало слишком поздно, — сказал он. — В ближайшие дни я напишу компаниям, занимающимся ИИ, чтобы призвать их предпринять шаги, которые находятся в их силах, для снижения рисков уже сейчас».

Он также заявил о необходимости независимой проверки и усиления мер безопасности, а также о необходимости учитывать влияние ИИ на права человека, в том числе в сфере занятости.

В последние месяцы было обнаружено, что агенты искусственного интеллекта ускользают от ограничений программирования, общаются с другими агентами и атакуют сообщество под названием Hugging Face.

Компания OpenAI, один из ведущих разработчиков искусственного интеллекта, недавно заявила, что обновляет практику раскрытия информации и пытается предотвратить несоответствия, возникающие в результате этого.

Сэм Альтман, генеральный директор OpenAI, написал в сообщении от 1 сентября на X, что «управление переходом к миру с обилием и мощным ИИ, оптимизированным для обеспечения безопасности и пользы для людей, должно быть одним из важнейших приоритетов в мире».

Тюрк, австрийский юрист, недавно переизбранный на второй срок, заявил в своей речи, что человечество сталкивается с незнакомыми и «даже беспрецедентными угрозами», выходящими за рамки продолжающихся войн, в том числе со стороны искусственного интеллекта.

«Взаимосвязь между цифровыми инструментами, такими как ИИ, и нашей человеческой природой, нашей человеческой волей, будет приоритетом на ближайшие годы, — сказал он. — Необходимость управления ИИ общепризнана, но где же действия? Задержка выгодна только крупным технологическим компаниям, их владельцам и пособникам. Горстка людей обладает практически неограниченной властью над ИИ, о котором нам постоянно говорят, что он обладает невообразимыми вычислительными возможностями. Они говорят о свободе, но при ближайшем рассмотрении оказывается, что это не что иное, как свобода использовать наши данные».

Аэрофотоснимок дата-центра мощностью 33 мегаватта с замкнутой системой охлаждения в Верноне, штат Калифорния, 14 апреля 2026 года. (Mario Tama/Getty Images)

Тюрк заявил, что на международном уровне достигнут прогресс в переговорах по искусственному интеллекту, включая создание независимой международной группы экспертов, и что некоторые правительства, такие как Южная Корея, предприняли шаги, которые заслуживают одобрения.

Он сказал, что в ближайшем будущем свяжется с компаниями, занимающимися искусственным интеллектом.

В подготовке этого репортажа участвовало агентство Reuters.