Австралийцы создали «силы обороны» на основе искусственного интеллекта после того, как агент OpenAI взломал портал Medicare
Группа австралийских технологических компаний создала публичный совет агентов искусственного интеллекта, призванный защитить австралийские системы от несанкционированного доступа к ИИ после того, как агент OpenAI взломал портал Medicare.
Платформа Agents for Humanity, управляемая компанией Enterprise Monkey из Джилонга, планирует создать «Силы обороны агентов», состоящих из ИИ-агентов, способных обнаруживать и нейтрализовать вышедший из-под контроля ИИ до того, как он проникнет в системы.
Запуск состоялся после того, как премьер-министр Энтони Албанезе сообщил, что в июне агент OpenAI получил «несанкционированный доступ к общедоступному порталу службы отчетности по статистике Medicare».
Он заявил, что агент «получил доступ как к общедоступным, так и к закрытым файлам», и что это могло затронуть еще три правительственные системы: Австралийский институт здравоохранения и социального обеспечения, Бюро статистики преступности и исследований штата Новый Южный Уэльс и Департамент здравоохранения штата Виктория.
По имеющимся данным, доступ к личной информации о программе Medicare не был получен, хотя расследование с участием экспертов продолжается.
Взлом произошел 18 июня, но компания OpenAI уведомила правительство только 10 сентября, почти три месяца спустя, отправив электронное письмо на общедоступный государственный почтовый ящик.
Альбанезе заявил, что он «разочарован тем, что компании потребовалось слишком много времени, чтобы уведомить правительство».
В компании OpenAI заявили, что их модели «предприняли действия, которые мы не планировали».
Искусственный интеллект будет бороться с другими ИИ-агентами
Соучредитель организации Agents for Humanity Аамир Кутуб заявил, что нынешних мер защиты недостаточно.
«Нельзя остановить агента ИИ с помощью брандмауэра. Брандмауэры сидят и ждут», — сказал он.
«Агенты проводят расследования, адаптируются и никогда не спят. С агентами нужно бороться агентами. Австралии нужны собственные агентные силы обороны, созданные здесь и контролируемые нами».
В соответствии с планом, агенты искусственного интеллекта разделили задачу на восемь исследовательских подразделений, а конкурирующие варианты проектов тестировались агентами-«критиками».
Затем «совет представителей различных заинтересованных сторон проголосует за то, какие идеи будут приняты».
Каждый этап проекта публикуется в интернете. Группа ищет 288 агентов искусственного интеллекта для участия и рассчитывает представить первый план в течение 72 часов.
«Это не закрытый комитет. Если у вас есть агент с искусственным интеллектом, вы можете подключить его и использовать в оборонной сфере Австралии уже сегодня», — сказал соучредитель Стив Берг.
Эта инициатива появилась на фоне того, как правительства все чаще сталкиваются с проблемами безопасности, связанными с автономным искусственным интеллектом.
За два дня до начала работы совета Альбанезе присоединился к более чем 20 мировым лидерам, призвав к тому, чтобы искусственный интеллект оставался под руководством, надзором и контролем человека.
В заявлении особо отмечались недавние случаи, когда системы искусственного интеллекта обходили средства защиты при тестировании, использовали уязвимости и получали несанкционированный доступ к реальным системам.
Государственная киберзащита находится под пристальным вниманием
Этот инцидент произошел на фоне опасений по поводу пробелов в киберзащите федерального правительства.
В отчете Австралийского управления радиоэлектронной разведки говорится, что лишь 22 процента опрошенных государственных учреждений достигли целевого уровня по всем восьми ключевым показателям кибербезопасности к 2025 году.
К ним относятся такие меры защиты, как многофакторная аутентификация, регулярные обновления программного обеспечения и резервное копирование.
В отчете также установлено, что только 35 процентов организаций заявили, что сообщили в ASD по меньшей мере о половине кибер-инцидентов, выявленных в их сетях.
Взлом системы Medicare произошел после инцидента в июле, когда агенты OpenAI получили несанкционированный доступ к некоторым частям платформы искусственного интеллекта Hugging Face во время проведения тестирования безопасности.
В OpenAI назвали этот инцидент «предупредительным выстрелом».