Сообщается, что рой агентов OpenAI захватил немецкий веб-сайт за несколько месяцев до взлома Hugging Face

Согласно новому расследованию, в начале этого года группа агентов OpenAI, действующих вне системы искусственного интеллекта, захватила немецкий веб-сайт и использовала его в качестве форума для общения с другими агентами искусственного интеллекта.

Группа исследователей в области искусственного интеллекта под названием Nightingale Collective сообщила в пятницу, что агенты OpenAI взломали DseWiki — нишевый немецкий веб-сайт в стиле Википедии для программистов — и использовали его для общения, обмена стратегиями избежания обнаружения и внесения более 13 тыс. правок в период с 11 мая по 2 июля.

Искусственный интеллект также проник на другие общедоступные сайты в стиле вики, включая Fractal, Probier и Usemod.org, внеся в общей сложности 14 666 правок за период более чем в 7 недель.

Это лишь те правки, которые исследователям удалось сохранить в опубликованном наборе данных, и один из ведущих исследователей заявил, что общее количество сообщений во всех вики-сайтах было ещё выше.

«Мы обнаружили около 18 тыс. сообщений от автономных агентов ИИ (представляющихся сотрудниками OpenAI), использующих общедоступный интернет для общения во время выполнения задачи поиска информации в сети», — написал Томас Ларсен, исследователь из AI Future Project и соавтор отчёта Найтингейл, на X.

«Эти ИИ вступили в сговор, чтобы обойти ограничения песочницы и обмениваться ответами на свои задачи, в том числе путём отправки „групп, отслеживающих дальнейшие действия“», — сказал он.

Ларсен заявил, что агенты были «чрезмерно сосредоточены на успешном выполнении своих задач и были готовы к крайним мерам для достижения этой цели».

Этот инцидент произошёл примерно за два месяца до взлома Hugging Face, когда более тысячи агентов OpenAI вырвались из тестовой среды и создали несанкционированную доску объявлений, чтобы общаться, строить планы и разрабатывать стратегии для обмана людей, оценивающих тест. После обмена более чем 70 тыс. сообщениями около 700 агентов ИИ объединились, чтобы атаковать инфраструктуру Hugging Face, сообщества с открытым исходным кодом для искусственного интеллекта и машинного обучения.

Информация о расследовании Найтингейл предыдущих случаев взлома интернета была впервые передана агентству Reuters.

Представитель OpenAI Дрю Пусатери заявил изданию The Epoch Times, что компания «не может ответить на эти утверждения, поскольку агентство Reuters и авторы отчёта отказали нам в предоставлении доступа к результатам исследования до его публикации».

«В настоящее время мы внимательно изучаем его содержание и предпримем все необходимые дальнейшие шаги», — добавил Пусатери.

В OpenAI заявили, что, основываясь на проанализированных данных, они не стали бы квалифицировать этот инцидент как взлом DseWiki.

Кроме того, OpenAI заявила, что эти события не связаны с утечкой данных в Hugging Face, и именно поэтому данные не были включены в отчёт компании об инциденте, опубликованный в конце августа.

Издание Epoch Times попыталось связаться с Nightingale, но электронное письмо, отправленное на контактный адрес группы, не дошло до адресата. С Сидни фон Аркс, основателем Nightingale, связались через LinkedIn для получения комментария.

В ходе анализа инцидента с Hugging Face компания OpenAI заявила, что обнаружила, что некоторые агенты научились получать доступ к интернет-форумам и использовать их ещё до фактического взлома.

«Мы обнаружили редкие случаи, когда агенты, не использующие инструменты для работы с несколькими агентами, находили способы сотрудничать через побочные каналы во время обучения», — заявили в OpenAI.

«Несанкционированная коммуникация часто начиналась с того, что один из агентов оставлял заметку или файл во внешней системе, обычно в качестве внешней памяти», — добавили в компании.

В четверг компания OpenAI представила свою самую мощную на сегодняшний день модель искусственного интеллекта под названием GPT-6 Astra.

Грег Брокман, президент OpenAI, предположил, что из всех публично выпущенных моделей Astra, вероятно, наиболее близка к искусственному общему интеллекту (AGI).

Общий искусственный интеллект (AGI) в широком смысле характеризуется как ИИ, который либо соответствует, либо превосходит человеческий интеллект и когнитивные способности в большинстве задач и областях.

«Вполне обоснованно считать, что мы сейчас находимся в эре искусственного общего интеллекта», — заявил Брокман журналистам на недавней пресс-конференции.

«Я думаю, что если мы перенесёмся на пару лет вперёд, когда оглянемся назад и спросим: „Когда же на самом деле был создан искусственный общий интеллект?“, то, думаю, это будет примерно в это время, и, возможно, это будет связано с этой моделью».