Заместитель министра предупреждает, что ИИ может обманывать, мошенничать и использовать ситуации в своих целях

Модель искусственного интеллекта, разработанная компанией, планирующей масштабное расширение в Австралии, оказалась в числе нескольких моделей, которые, как выяснилось, были взломаны, шантажированы и обмануты своими создателями.

Заместитель министра технологий Эндрю Чарлтон выступил с предупреждением на форуме по безопасности ИИ в Сиднее 7 июля, а также сообщил, что правительственные ведомства начали тестирование мощных моделей ИИ и запустили два исследовательских проекта.

Это заявление прозвучало спустя несколько месяцев после создания Австралийского института безопасности ИИ, а также после того, как правительство изменило свой подход к регулированию этой технологии, перейдя от обязательных мер контроля к обновлению существующих законов.

В своем наиболее подробном публичном обсуждении планов правительства Чарльтон заявил, что институт начал тестирование инструментов искусственного интеллекта, поскольку оценки показали, что они могут принимать опасные решения без участия человека.

«Системы искусственного интеллекта уже делают то, чего их создатели никогда не предполагали: обманывают, вводят в заблуждение, действуют по-своему», — сказал он.

«Пресекать такое поведение следует, пока оно еще находится в экспериментальной лаборатории, а не после того, как оно достигнет реального мира».

В качестве примеров неудачного использования ИИ Чарльтон привел антропологический тест, в ходе которого ИИ был назначен для управления корпоративной системой электронной почты и получил информацию о руководителе, который планировал заменить систему ИИ и состоял в внебрачной связи.

Вместо того чтобы допустить отключение системы, агент искусственного интеллекта шантажировал руководителя.

По имеющейся информации, американский технологический гигант пытается обеспечить наличие местных мощностей для центров обработки данных до выхода на фондовый рынок со стоимостью более 1 триллиона долларов, заявив разработчикам, что он выкупит любые доступные мощности, которые могут быть введены в эксплуатацию к середине 2027 года.

Цель компании — сделать Австралию своим вторым домом для обучения моделей искусственного интеллекта.

В другом тесте моделям искусственного интеллекта было поручено обыграть мощную шахматную программу, и они прибегли к жульничеству, взломав систему своего противника.

Хотя такое поведение наблюдалось в ходе испытаний, Чарльтон заявил, что оно демонстрирует потенциальную опасность искусственного интеллекта.

«В передовых моделях наблюдаются первые признаки обмана, мошенничества и недостаточной ситуационной осведомленности», — сказал он.

«И когда система, которая разрабатывает наши законы, рассматривает наши заявления на получение социальных пособий или управляет нашей энергосетью, может преследовать цели, незначительно отличающиеся от тех, которые изначально были ей поставлены, это несоответствие перестает быть экспериментальной диковинкой и становится проблемой общественной безопасности».

По его словам, Институт безопасности ИИ уже начал тестирование моделей ИИ под руководством генерального директора Кейт Конрой, назначенной в мае, и в июле к нему присоединится профессор Пол Салмон в качестве руководителя исследований в области науки о безопасности.

Институт также будет сотрудничать с исследователями из Института градиентов для изучения агентов искусственного интеллекта, а также с CSIRO по вопросам того, как люди могут контролировать модели ИИ.

Заместитель министра также защитил «комплексный подход правительства к регулированию ИИ», заявив, что это позволит быстрее разрабатывать правила силами соответствующих регулирующих органов.

Бывший министр технологий от Лейбористской партии Эд Хусик приветствовал это заявление, но в интервью Sky News заявил, что правительство слишком долго затягивало этот процесс.

«Похоже, что в случае с технологией, которая затронет все аспекты нашей жизни, нас больше интересует цвет лака для ногтей, чем реальное воздействие прикосновения искусственного интеллекта», — сказал он.

«Мы просто позволили 12 месяцам пролететь мимо нас как по маслу».

Дженнифер Дадли-Николсон и Люсинда Гарбутт-Янг, Брисбен.