OpenAI заблокировала группу аккаунтов ChatGPT, размещавших фейковые комментарии, рекламирующие Россию

Компания OpenAI 25 августа объявила о блокировке группы учетных записей в своем популярном чат-боте ChatGPT, предположительно связанных с российской пропагандистской кампанией.

Согласно данным OpenAI, эти аккаунты были связаны с Международным институтом Берка, фиктивным аналитическим центром, который служит прикрытием для тайной российской кампании влияния.

Как говорится в отчете OpenAI, расследование, начавшееся с анализа сообщений в социальных сетях, привело компанию, занимающуюся разработкой искусственного интеллекта, к раскрытию «гораздо более масштабной операции по оказанию влияния, связанной с веб-сайтом, содержащим скопированные и неверно идентифицированные научные работы».

В сфабрикованном документе содержался «индекс суверенитета», который представлял Россию в выгодном свете. Он также скрывал российское происхождение сети.

«Хотя кампания, по всей видимости, охватила относительно небольшую аудиторию, ее тщательно продуманная структура отличает ее от других операций по оказанию влияния, связанных с Россией, которые мы пресекли с начала войны на Украине», — заявили в OpenAI.

Оператор этих аккаунтов заставлял их оставлять комментарии преимущественно на английском языке в Substack, Telegram, X, Facebook и LinkedIn. Он также дал указание ChatGPT скрывать любые языковые признаки того, что операторы являются русскими.

«Поскольку мы не разрешаем доступ к нашим моделям из России, они использовали [виртуальные частные сети] для доступа к нашей платформе», — заявили в OpenAI.

Как сообщила компания OpenAI, большинство сгенерированных комментариев содержали рекламу статей от самопровозглашенного «экспертного сообщества» из «израильского» Международного института Берка.

На сайте института представлен список многочисленных экспертов, в том числе нескольких американских профессоров.

Как выяснила компания OpenAI, статьи были неверно приписаны экспертам и, по всей видимости, скопированы из онлайн-источников.

Издание The Epoch Times обратилось к профессору международных отношений и эксперту по управлению ИИ Сьюзан Ааронсон из Университета Джорджа Вашингтона, которая указана на сайте института как эксперт. Ааронсон подтвердила, что ничего не слышала об этой организации.

Генеральный директор OpenAI Сэм Альтман выступает на мероприятии в Сан-Франциско 2 июня 2025 года. (Джастин Салливан/Getty Images)

«Я ничего об этом не знаю и не имею к этому никакого отношения», — заявил Ааронсон изданию The Epoch Times.

Институт опроверг утверждения о том, что это сфабрикованная российская операция, заявив 26 августа, что является независимым исследовательским подразделением.

Согласно данным OpenAI, статьи института были скопированы из реальных научных работ и, по всей видимости, были написаны человеком, говорящим на славянских языках.

«Насколько нам известно, это новая и ранее не сообщавшаяся скрытая кампания по оказанию влияния», — заявила компания OpenAI. «Ее наиболее примечательной особенностью является создание „индекса суверенитета“, продвигаемого так называемым „аналитическим центром“, чтобы восхвалять Россию и очернять западные страны».

«Это первый случай, когда нам удалось сорвать операцию по оказанию влияния, связанную с Россией, которая зашла так далеко и тщательно спланирована», — добавили в OpenAI.

Согласно результатам расследования, предполагаемая операция была направлена ​​главным образом на создание постов в социальных сетях для продвижения статей на веб-сайте института.

Приложение ChatGPT отображается на iPhone в Нью-Йорке 18 мая 2023 года. (Фото AP/Ричард Дрю)

Как выяснила компания OpenAI, часть сообщений была написана самим институтом, а часть — пользователями фейковых аккаунтов в социальных сетях, основной деятельностью которых была публикация сфабрикованных статей.

В ходе расследования выяснилось, что операторы также публиковали ответы реальным пользователям Substack, которые обычно содержали ссылки на этот институт.

В одном случае операторы оставляли комментарии к немецкоязычным постам в Telegram-канале под названием «Lahme Ente» (что означает «хромая утка»), призывая к улучшению отношений с Россией. По данным OpenAI, эти посты подверглись критике со стороны Украины, ЕС и правительства Германии.

По словам компании, операция продемонстрировала, как злоумышленники могут неправильно использовать ИИ для влияния на общественность.

„Это демонстрирует, как влиятельные лица могут использовать ИИ в качестве вспомогательного инструмента в рамках более широких усилий по созданию авторитета, сокрытию источника желаемых нарративов и созданию активов, которые можно масштабировать с течением времени“, — заявили в OpenAI. „Это также показывает, как их вспомогательное использование ИИ может привести к раскрытию всей этой операции“.