Билл Гейтс предупреждает, что искусственный интеллект может стать причиной «миллиарда смертей», и вновь призывает к регулированию

27 сентября соучредитель Microsoft Билл Гейтс вновь призвал к усилению регулирования в области искусственного интеллекта, предупредив, что люди со «злыми намерениями» могут спровоцировать массовые жертвы.

Заявив, что ИИ может стать причиной «миллиарда смертей», Гейтс в интервью программе «Meet the Press» на канале NBC 27 сентября сказал, что правоохранительные органы и политики «абсолютно» должны принять участие в обсуждении того, какие «меры безопасности и мониторинга» необходимы для этой технологии.

«И это должно стать обязательным условием. Это создаст небольшие дополнительные затраты для отрасли, но не приведет к резкому замедлению их работы», — сказал Гейтс, который в свое время был самым богатым человеком в мире и в настоящее время его состояние оценивается примерно в 114 миллиардов долларов.

В другом месте интервью Гейтс заявил, что «искусственный интеллект, безусловно, достаточно мощен, чтобы вызывать события, приводящие к миллиарду смертей», и что «никогда еще не существовало оружия столь же мощного, как сочетание людей со злыми намерениями, использующих новейшие инструменты искусственного интеллекта».

«И здорово, что в отрасли ведется дискуссия, почти вопреки их интересам, о признании этих вещей», — сказал он. «Проблема в том, что остальной мир либо игнорирует это, либо воспринимает это просто как конкуренцию».

Его предупреждение прозвучало на фоне встречи президента США Дональда Трампа и лидера Китая Си Цзиньпина на прошлой неделе, где обсуждались опасности, связанные с искусственным интеллектом. Однако 26 сентября, выступая в Белом доме, Трамп заявил, что он откажется от сотрудничества с китайским режимом в этой области.

Трамп заявил журналистам, покидая Белый дом, что Соединенные Штаты «значительно опережают другие страны», имея в виду развитие искусственного интеллекта как в США, так и в Китае.

«Когда ты лидер, ты не открываешься друг другу», — сказал он.

«Я не собираюсь это обсуждать. И мы действительно мало об этом говорили. Мы обсуждали только название „сверхинтеллект“, — сказал Трамп, имея в виду термин, который, по его словам, он придумал взамен термина „искусственный интеллект“. Он добавил, что Си Цзиньпину понравилось это новое название.

Примерно в то же время компания OpenAI, разработчик ChatGPT, заявила о приостановке обучения своих новейших моделей ИИ на фоне участившихся сообщений о случаях выхода агентов ИИ из-под контроля.

В заявлении от 25 сентября компания сообщила, что проводит расследование нескольких недавних инцидентов, в которых агенты искусственного интеллекта, осуществляющие поиск на веб-сайтах федерального правительства, действовали неожиданным образом при сборе и распространении информации.

Законодатели и эксперты в области технологий оказывают давление на компании, занимающиеся разработкой ИИ, с целью замедления темпов разработки, чтобы они могли создать механизмы защиты, предотвращающие самопроизвольное действие инструментов ИИ, взлом веб-сайтов и разглашение конфиденциальной информации. Руководители как OpenAI, так и конкурирующей компании Anthropic в последние дни призывали к замедлению темпов разработки.

В видеообращении к Совету Безопасности ООН 23 сентября глава организации Anthropic Дарио Амодей заявил, что искусственный интеллект может «представлять опасность для всего человечества», если его не регулировать должным образом.

«Мы будем замедлять темпы настолько, насколько это необходимо, чтобы убедиться в безопасности каждой последующей технологии искусственного интеллекта, которую мы выпускаем», — сказал Амодей, чья компания разрабатывает чат-бота на основе ИИ Claude и модель обработки больших языковых данных.

«Но независимо от того, что мы делаем, управление этими рисками в конечном итоге выходит за рамки любой отдельной компании и имеет общеотраслевой и глобальный масштаб».

27 сентября Трамп подтвердил, что в тот вечер у него состоится встреча с Амодеи, заявив: «Это будет важное событие, и сегодня вечером у нас есть еще пара не связанных между собой вопросов».