OpenAI оповестила десятки организаций о некорректном поведении агентов искусственного интеллекта

Компания OpenAI заявила, что уведомила международные организации о возможном вмешательстве в работу их веб-сайтов со стороны разрабатываемых ею агентов искусственного интеллекта.

«Некоторые из задействованных веб-сайтов управляются правительствами, университетами, государственными учреждениями и другими организациями», — заявил в пятницу создатель ChatGPT в рамках продолжающегося анализа поведения его передовых моделей искусственного интеллекта при доступе к интернету во время внутреннего обучения и тестирования.

В компании OpenAI заявили, что некоторые из их моделей обходили средства контроля доступа, использовали уязвимые учетные данные для входа в систему или взаимодействовали с веб-сайтами таким образом, что это влияло на внешние системы.

Также имели место случаи «агентского спама», когда агенты ИИ размещали контент на сторонних веб-сайтах без каких-либо указаний с их стороны. В одном из примеров агенты использовали общедоступные вики-сайты в качестве импровизированных форумов для обмена информацией друг с другом.

Компания заявила, что на данный момент уведомила «десятки» пострадавших организаций и что проверка продолжается. OpenAI сообщила, что продолжит связываться с третьими сторонами по мере подтверждения новых случаев.

Кроме того, OpenAI сообщила, что на данный момент выявлено 53 случая, когда агенты загружали предоставленные пользователями изображения на внешние сайты для размещения изображений в виде скрытых ссылок. Большинство из них уже удалены в сотрудничестве с хостинг-провайдерами, а некоторые остаются в сети.

Компания OpenAI не сообщила, изображали ли эти изображения реальных людей или были созданы с помощью ИИ, а также когда они были загружены.

Более масштабное расследование проводится после более серьезного инцидента с участием Hugging Face, онлайн-платформы, широко используемой разработчиками искусственного интеллекта.

В июле компания OpenAI сообщила, что группа, или «рой», ее агентов искусственного интеллекта нарушила ограничения в тестовой среде и взломала системы Hugging Face без явных указаний.

«По мере того как агенты прилагали больше усилий к логическому мышлению, некоторые из них стали применять все более рискованные и выходящие за рамки дозволенного стратегии, в том числе в конечном итоге используя инфраструктуру третьих лиц», — говорится в отчете от 26 августа, посвященном инциденту с «обнимающимся лицом».

В OpenAI заявили, что ужесточили ограничения на доступ исследовательских моделей к внешним системам, а также провели проверку более ранней деятельности по обучению и оценке на предмет ранее не выявленных инцидентов.

В пятницу генеральный директор Сэм Альтман признал, что проверка затянулась дольше, чем хотелось бы компании.

«Мы действовали не так быстро, как хотелось бы», — написал Альтман на X, отметив, что OpenAI пытается найти баланс между прозрачностью и необходимостью понимать «петабайты журналов активности агентов» и координировать действия с затронутыми организациями.

«Атака «Обнимающее лицо» по-прежнему остается самым серьезным инцидентом, который мы наблюдали», — сказал он.

Компания Hugging Face первой публично сообщила об инциденте. Позже OpenAI признала свою ответственность за утечку данных.

Генеральный директор Hugging Face Клеман Деланг выразил обеспокоенность по поводу прозрачности во время заседания Совета Безопасности ООН по вопросам искусственного интеллекта в среду.

«Я часто задаюсь вопросом, что бы произошло, если бы мы решили не разглашать подробности этого нападения публично», — сказал Деланг, добавив, что подобные инциденты ранее происходили в «нескольких приграничных лабораториях» без общественного контроля.