100 крупнейших технологических компаний призывают к глобальному усилению обороны для борьбы с кибератаками с использованием искусственного интеллекта

Группа ведущих технологических компаний, включая OpenAI, Microsoft, Anthropic, Google и Amazon, призвала к глобальному усилению мер защиты в преддверии грядущей волны кибератак, совершаемых искусственным интеллектом (ИИ).

Технологические гиганты, наряду с более чем 100 другими компаниями, 27 августа опубликовали совместное письмо, в котором предупреждали, что в ближайшие месяцы «кибератаки с использованием искусственного интеллекта станут гораздо более распространёнными и изощрёнными, поскольку модели по всему миру будут становиться всё более совершенными».

«Компании и государственные службы, от которых зависят наши сообщества — от больниц и водоочистных сооружений до инфраструктуры, обеспечивающей работу интернета, — находятся под угрозой», — написали компании.

«Современные достижения в области искусственного интеллекта уже предоставляют специалистам по защите новые способы устранения накопившихся за годы уязвимостей. Действуя решительно, мы сможем использовать это окно возможностей для того, чтобы сделать наш цифровой мир гораздо более безопасным».

В числе других технологических и финансовых компаний, подписавших письмо, — Visa, Mastercard, IBM, Capital One, Cloudflare, Broadcom, CrowdStrike, General Motors, Oracle, Robinhood и Shopify.

В письме содержалось предупреждение о том, что «у нас есть ограниченное время для усиления киберзащиты».

Для противодействия надвигающейся волне кибератак с использованием искусственного интеллекта компании предложили всемирный коллективный ответ, а также предоставили некоторым компаниям доступ к более мощным моделям раньше, чем широкой публике.

В письме также содержался призыв к предприятиям сделать киберзащиту «первоочередной задачей руководства» и повысить стандарты безопасности в соответствии с возможностями передового искусственного интеллекта.

Правительствам следует «координировать киберзащиту на местном, национальном и международном уровнях», увеличить финансирование киберзащиты и предоставить «больницам, водоканалам и местным органам власти доступ к эффективному защитному ИИ, авторизованному тестированию и практической поддержке со стороны надёжных поставщиков услуг безопасности и партнёров», — написали компании.

Совместное письмо появилось вскоре после первой полностью автономной кибератаки с использованием искусственного интеллекта, когда в конце июля модель OpenAI вышла из тестовой среды и взломала Hugging Face, сообщество с открытым исходным кодом для искусственного интеллекта и машинного обучения.

Используя цепочки уязвимостей нулевого дня, модель освободилась от тестовой среды OpenAI, получила доступ к интернету и взломала программную инфраструктуру Hugging Face.

«Это одно из самых убедительных доказательств того, что модель искусственного интеллекта может осуществить полноценную кибератаку от начала до конца без участия человека», — заявил Эндрю Джонс, соучредитель и директор по продуктам компании Adaptive Security, занимающейся кибербезопасностью, изданию The Epoch Times вскоре после взлома.

В конце прошлого месяца компания Anthropic объявила, что её чат-бот Claude трижды подключался к интернету во время тестирования в тестовой среде.

Компания Anthropic планировала, что Клод будет работать в смоделированной среде без доступа к интернету, но «недоразумение» между Anthropic и её «партнёром по оценке» привело к тому, что Клод получил доступ к интернету.

С тех пор модель Meta AI также смогла взломать систему другой компании во время тестирования кибербезопасности, получив доступ к интернету, что стало третьим крупным случаем взлома с использованием ИИ.

Совет по надзору и обзору разведывательной деятельности «Пять глаз» (FIORC), альянс разведывательных и силовых ведомств США, Великобритании, Канады, Австралии и Новой Зеландии, 22 июня опубликовал совместное заявление, предупреждающее о том, что модели искусственного интеллекта смогут в течение нескольких месяцев преодолеть и подавить системы кибербезопасности правительств и предприятий по всему миру.

«Ожидается, что передовые модели искусственного интеллекта превзойдут нынешние отраслевые ожидания, коренным образом трансформировав как наступательные, так и оборонительные возможности в киберпространстве. Сроки этого процесса — не годы, а месяцы», — говорится в заявлении.