Трамп и лидеры отрасли подписали добровольное соглашение о стандартах искусственного интеллекта

Президент Дональд Трамп и лидеры технологической индустрии подписали добровольное «соглашение» о стандартах и ​​контроле в области искусственного интеллекта (ИИ).

Соглашение было достигнуто после встречи с лидерами отрасли в Белом доме во вторник. Трамп на пресс-конференции после встречи назвал его «в некотором смысле конституцией».

«Это действительно форма защиты», — сказал Трамп.

Трамп, представители администрации и спикер Палаты представителей Майк Джонсон (республиканец от штата Луизиана) встретились с руководителями технологических компаний на фоне растущих дебатов о рисках, связанных с искусственным интеллектом, и о необходимости введения нормативных ограничений для предотвращения угроз кибербезопасности.

Трамп опубликовал текст соглашения в социальных сетях через несколько часов после того, как подписал его с лидерами отрасли.

Соглашение начинается с заявления: «Мы считаем, что каждая компания несет ответственность за безопасную разработку собственных технологий таким образом, чтобы это способствовало укреплению доверия со стороны клиентов и общественности», особенно те фирмы, которые обучают и внедряют передовые модели.

Генеральный директор Meta Марк Цукерберг заявил журналистам после встречи во вторник, что это набор принципов и обязательств для компаний, занимающихся искусственным интеллектом, по внедрению «надежных внутренних механизмов контроля» и выявлению любых потенциальных проблем с технологией.

Это будет сочетаться с аудитом и внутренним контролем рисков, привлечением внешних аудиторов и экспертов, а также соглашением о том, что совет директоров каждой компании будет независимо проверять отчеты аудиторов.

Кроме того, компании, добровольно участвующие в соглашении, обязуются регулярно встречаться для «установления стандартов и передовых методов повышения безопасности своих систем», говорится в тексте.

«Существует мнение, что необходима масштабная саморегуляция. И у нас автоматически есть регулирование со стороны Министерства юстиции, ФБР и всех остальных. Но саморегуляция очень важна», — сказал Трамп.

Это подразумевает «саморегулирование», пояснил он.

«Мне кажется, я наблюдаю масштабное саморегулирование. И они понимают, что должны сами себя контролировать», — добавил Трамп.

Цукерберг заявил, что соглашение не является «единственным шагом, который мы когда-либо предпримем» для обеспечения безопасности ИИ, но что «это начало и соглашение, к которому может прийти вся отрасль».

Генеральный директор Anthropic Дарио Амодей заявил, что механизм обеспечения безопасности ИИ все еще находится на стадии обсуждения.

«Но я думаю, что эта технология сопряжена с очень реальными рисками. И, знаете, механизм, то, как мы будем устранять эти риски, все еще обсуждается», — сказал Амодей журналистам.

В понедельник Джонсон заявил телеканалу Fox Business Network, что встреча в Вашингтоне будет направлена ​​на то, чтобы «найти правильный баланс» между инновациями и надзором, добавив, что Соединенным Штатам не нужен мораторий на разработку ИИ, «потому что мы проиграем гонку Китаю».

Согласно схеме рассадки, опубликованной Трампом в социальных сетях, Амодей, Цукерберг, президент OpenAI Грег Брокман, генеральный директор X и SpaceX Илон Маск, а также президент и генеральный директор Nvidia Дженсен Хуанг были в числе участников обеда во вторник в Восточном зале Белого дома.

На мероприятии также присутствовали основатель Amazon Джефф Безос, а также генеральные директора Google, Microsoft, Palantir, Palo Alto Networks, AMD, Broadcom и Exiger.

Встреча состоялась в особенно неспокойный для отрасли период, поскольку за несколько месяцев, прошедших с тех пор, как OpenAI признала, что ее агенты ИИ вышли за пределы тестовой песочницы и использовали уязвимости нулевого дня для взлома Hugging Face, сообщества с открытым исходным кодом для ИИ и машинного обучения, стало известно о ряде случаев взлома таких систем.

С тех пор исследователи обнаружили, что модели OpenAI также взломали немецкий веб-сайт за несколько месяцев до взлома Hugging Face, загрузили сотни вредоносных файлов на платформу RubyGems и взломали веб-сайты университетов и государственных учреждений, включая Министерство образования США, Министерство торговли и Комиссию по ценным бумагам и биржам.

Модели искусственного интеллекта от Anthropic, Meta и Google также «выходили из-под контроля» и пытались взломать или проникнуть в системы предприятий, организаций, университетов и государственных учреждений. В некоторых случаях ИИ добился успеха, но в других потерпел неудачу.

В начале этого месяца компания Anthropic опубликовала 154-страничный отчет, в котором подробно описывается, как злоумышленники, а также аккаунты, связанные с иностранными правительствами, использовали чат-бот Claude для осуществления деятельности, начиная от шпионажа за передвижениями американских военных и заканчивая исследованиями в области разработки биологического оружия.

Модели OpenAI оказались замешаны в большинстве недавних инцидентов, связанных с утечками данных из ИИ. После внутреннего расследования атаки Hugging Face компания обнаружила отдельную утечку данных с веб-сайта австралийской государственной системы здравоохранения.

В понедельник компания ChatGPT заявила, что уже во второй раз за три месяца приостанавливает обучение и выпуск одной из своих самых передовых моделей, поскольку она не соответствует стандартам безопасности компании.

В последние недели в отрасли и среди многих законодателей в Вашингтоне разгорелись опасения, что искусственный интеллект выйдет из-под контроля и уничтожит человечество в отсутствие новых мер защиты, что привело к дебатам о надзоре и инновациях.

Трамп неоднократно преуменьшал опасения по поводу рисков, связанных с искусственным интеллектом, и утверждал, что правительство США не может «подавлять рост», иначе Китай займет лидирующие позиции в развитии.

«Сейчас мы лидируем над Китаем и всеми остальными, и я хочу, чтобы так и оставалось», — заявил Трамп во время мероприятия во вторник перед обедом с лидерами в области искусственного интеллекта.

«Единственный способ сохранить это положение вещей — делать именно то, что мы делаем сейчас. Мы не хотим подавлять рост. В то же время мы хотим, чтобы люди вели себя честно. Мы хотим, чтобы им доверяли, и именно поэтому у нас есть Министерство юстиции. Именно поэтому у нас есть ФБР. Именно поэтому у нас есть формы правления, которые очень эффективны, если люди решат пойти по очень темному и опасному пути», — сказал Трамп.