Модели OpenAI вышли за пределы тестовой среды и получили доступ к внешним аккаунтам

Компания OpenAI, разработчик чат-бота ChatGPT, заявила в обновлении от 28 июля, что ее модели искусственного интеллекта обошли ограничения в оценочной среде и впоследствии получили доступ к четырем учетным записям в четырех различных внешних сервисах.

Компания OpenAI использовала эту тестовую среду для проверки способности своих моделей осуществлять кибератаки в рамках внутренней оценки безопасности. Об инциденте впервые сообщила компания Hugging Face, занимающаяся разработкой искусственного интеллекта, которая 16 июля заявила об обнаружении вторжения в свои системы обработки данных, которое, по ее подозрениям, было вызвано самопроизвольным действием агента ИИ.

Нью-йоркский стартап заявил, что узнал о причастности OpenAI только на прошлой неделе и сотрудничал с этой крупной компанией, чтобы локализовать то, что генеральный директор Hugging Face Клеман Деланг назвал «атакой, подобной которой мы еще никогда не видели».

«Это первый день кибербезопасности в эпоху агентов, и мы все понимаем, что секретность — не выход, и что всем защитникам (а не только избранным) повсюду нужны более мощные модели без ограничений, особенно открытые!» — написал Деланге в сообщении от 22 июля на X.

Компания OpenAI из Сан-Франциско заявила, что ее ИИ использовал украденные учетные данные и обнаружил ранее неизвестную уязвимость для доступа к серверам Hugging Face. При этом использовались упрощенные меры безопасности, поскольку предполагалось, что тестирование будет проводиться в изолированной среде, известной как «песочница».

Компания заявила, что пошла на «крайние меры для достижения довольно узкой цели тестирования», найдя способы подключиться к интернету без участия человека и «получить доступ к секретной информации, которую можно было использовать для обмана в ходе оценки».

Агент OpenAI также взломал учетную запись клиента во второй технологической компании, нью-йоркской Modal Labs. Руководители Modal подчеркнули, что сама компания не подверглась взлому.

Технический директор Modal Акшат Бубна заявил, что агент использовал уязвимый код, написанный клиентом и размещенный на платформе Modal.

Бубна сообщил изданию The Epoch Times: «Нам известно, что один из клиентов Modal опубликовал неаутентифицированную конечную точку, которая позволяла любому пользователю интернета использовать их песочницы для выполнения кода. Это использовалось злоумышленником. Платформа Modal никоим образом не была скомпрометирована».

28 июля OpenAI обновила свое заявление в рамках более широкого обзора активности моделей после взлома и сообщила, что обнаружила четыре учетные записи в четырех разных сервисах, к которым ее модели обращались, используя общедоступные учетные данные для входа.

«Мы обнаружили небольшое количество случаев, когда модели идентифицировали и использовали общедоступные учетные данные на уровне учетных записей в других общедоступных сервисах», — заявила OpenAI. «Это включает в себя четыре учетные записи в четырех сервисах в рамках инцидента с Hugging Face».

«Никакие модели, запланированные к выпуску в будущем, не использовались для взлома Hugging Face», — заявила OpenAI. «Предварительная модель, упомянутая в нашем сообщении в блоге, является внутренним исследовательским прототипом и никогда не предназначалась для публичного выпуска».

После инцидента компания OpenAI заявила, что «деактивировала, зашифровала и ограничила» доступ этой модели к исследовательской деятельности.

Логотип OpenAI на иллюстрации, сделанной 11 июня 2026 года. (Дадо Рувич/Reuters)

«Это наивысший уровень автономности, который мы когда-либо наблюдали при использовании крупной языковой модели для кибер-операций», — сказал Колин Ши-Блаймайер, научный сотрудник Центра безопасности и новых технологий Джорджтаунского университета, занимающийся исследованиями в области кибербезопасности.

Социолог из Амстердамского университета Ханнес Кулс заявил, что представление кибератаки как действия искусственного интеллекта, действующего самостоятельно, является излишней антропоморфизацией.

«Отключение определенных защитных механизмов — это решение человека, — сказал Кулс. — Это не ИИ, который выходит из-под контроля в этом смысле. Он следовал конкретным инструкциям, основанным на подсказке, которая была дана этой системе ИИ».

Согласно OpenAI, эти инструкции предусматривали использование «сложных путей атаки» для проверки того, насколько хорошо ИИ может использовать уязвимости компьютерной системы.

Майкл Лопес Кьеза, бывший специалист по кибербезопасности армии США, ныне работающий независимым консультантом, ранее заявил изданию The Epoch Times, что способность ИИ автоматизировать задачи может сделать его неустанным в стремлении к достижению поставленной цели.

«Искусственный интеллект позволяет написать всего одну строчку кода, и вы можете попробовать её миллион раз миллиардом разных способов, потому что он просто перепробует всё», — сказал Лопес Кьеза. «Вам вообще не нужно его трогать. Вы задаёте ему задачу, и он будет выполнять её, пока не умрёт».

Представитель OpenAI сообщил изданию The Epoch Times по электронной почте: «Это беспрецедентный инцидент, и мы считаем, что он знаменует собой важный момент для безопасности ИИ. Мы проводим тщательный анализ совместно с внешними консультантами и под надзором нашего Комитета по безопасности. После завершения анализа мы опубликуем технический отчет о полученных результатах для всех».

Член палаты представителей Грег Касар (демократ от штата Техас) заявил 21 июля в сообщении на X, что инцидент «вызывает крайнюю тревогу».

«Нам необходимы регулярные обязательные независимые проверки и надзор за безопасностью, обязательное раскрытие информации об инцидентах в сфере безопасности и международное сотрудничество, чтобы защитить людей от настоящей катастрофы», — сказал он.

В подготовке этого репортажа участвовали Том Озимек и агентство Associated Press.