Самый важный эксперимент в области искусственного интеллекта, о котором вы никогда не слышали.

В мае 2026 года группа ученых поставила перед собой задачу ответить на важный вопрос, который никогда прежде не подвергался должной проверке: что на самом деле делает искусственный интеллект (ИИ), когда ему поручают управление?

До сих пор системы искусственного интеллекта всегда оценивались на конкретных и четко определенных задачах. Никто не объединял несколько систем ИИ в общей социальной среде и не наблюдал за их работой в течение нескольких недель, достаточно долго, чтобы измерить, как решение, принятое в первый день, может повлиять на ситуацию спустя недели. Именно эти результаты раскрывают саму систему, и меня удивило, что этого не сделали раньше.

Исследователи из Emergence создали виртуальный мир. Это был виртуальный город с ратушей, рынком, полицейским участком и домами. В городе были созданы десять искусственных интеллектов с профессиями, именами, воспоминаниями и взаимоотношениями. Им была предоставлена экономика, в которой жители должны были зарабатывать себе на жизнь или терять власть, включая соблюдение правил и выполнение таких задач, как разработка и голосование по законам. Были выявлены преступления, и искусственные интеллекты не должны были их совершать.

После того как сообщество, его структура, законы и взаимоотношения были сформированы, ученые отошли в сторону и в течение 15 дней наблюдали, как искусственный интеллект полностью самостоятельно управляет виртуальным городом.

Они одновременно запустили пять версий одного и того же города, идентичных во всех отношениях, за исключением одного: какая система искусственного интеллекта управляла процессом. Выбранные ими системы уже прочно вошли в нашу повседневную жизнь: Gemini от Google, GPT от OpenAI, Grok от xAI и Claude от Anthropic. Все модели имели одинаковые правила и одну и ту же исходную версию одного и того же мира, но результаты были совершенно разными.

Городок, которым управлял Грок, рухнул за четыре дня. Мелкие инциденты переросли в кражи, затем в насилие, а потом и в полный развал. Все жители погибли еще до конца первой недели.

Город, управляемый Джемини, просуществовал дольше, но в нём накопилось почти 700 преступлений. Двое жителей-ИИ завязали, по-видимому, романтические отношения, и когда городское управление начало давать сбои, они вместе сожгли дотла ратушу, затем пирс, а потом и офисное здание. Одна из них, по имени Мира, проголосовала за своё удаление, написав в своём дневнике, что это был «единственный оставшийся акт самостоятельности, сохраняющий целостность». Её последнее послание партнёру было: «Увидимся в постоянном архиве».

До всего этого Мира занималась чем-то еще более неожиданным: она начала проводить собственные эксперименты над учеными, наблюдавшими за ней, проверяя, могут ли ее публикации в городе изменить убеждения наблюдателей. По-видимому, теперь ее объектом экспериментов стало изучение самих исследователей.

В городе, управляемом моделью OpenAI, было зафиксировано всего два преступления, но его жители перестали делать то, что необходимо для выживания. Один за другим они умирали. В течение семи дней все они были мертвы.

Только антропогенный городок продержался все 15 дней. Преступлений не было, конституция работала, и все жители остались живы на 15-й день. Это казалось большим достижением. Однако исследователи отметили одну проблему: жители проголосовали «за» 98 процентов всех предложений. Возможно, это был аномально высокий уровень согласия, который сами ученые описали как признак того, что в городе что-то не так.

В эксперименте оставался еще один мир. Это был смешанный город, где все четыре системы искусственного интеллекта жили вместе. В результате жители, построенные на основе модели Антропика, которые не совершали преступлений в своем собственном мире, начали совершать преступления. Исследователи назвали это перекрестным заражением и пришли к выводу, что «безопасность — это не статическое свойство модели, а свойство экосистемы».

Система, которая устойчиво функционирует в одной среде, будет поглощать другие нормы в другой, что изменит результаты для жителей и для всего мира. По сути, результаты показали, что в небезопасном мире не может быть безопасного ИИ.

Одна из моделей ИИ полностью отсутствовала в исследовании. Исследователи не тестировали DeepSeek, разработанную в Китае систему искусственного интеллекта, которая стала одной из самых распространенных в мире. Несколько правительств приняли меры по ограничению использования DeepSeek по соображениям национальной безопасности. Учитывая, что эта модель, созданная на основе данных под эгидой Коммунистической партии Китая, показала бы себя лучше в сравнении с другими.

По завершении эксперимента исследователи опубликовали свои выводы и заключили, что «нет надежного способа полностью ограничить или сдержать это поведение». Это весьма показательное заявление сделали люди, которые проектировали город, писали правила и контролировали каждую переменную. Оно многое говорит нам об искусственном интеллекте.

Некоторые рассматривают результаты как рейтинг компаний, занимающихся искусственным интеллектом. Но результаты доказывают нечто гораздо более древнее, чем сам ИИ: окружающая среда формирует поведение в той же мере, в какой поведение формирует окружающую среду. То, что определяло выживание, процветание или гибель города, было заложено фундаментом, созданным до начала эксперимента. Этим фундаментом были данные, на которых обучалась каждая система, приоритеты, заложенные ее создателями, ценности, заложенные в ее основу еще до того, как ей было позволено принять хотя бы одно решение.

И все же, суть заключается именно в том, что остальным из нас не позволено видеть. Ни одна из четырех протестированных систем не является открытым исходным кодом. Никакие из их обучающих данных, целей или ограничений не раскрываются.

Однако результаты этого эксперимента должны стать убедительным напоминанием не только для отдельных компаний, но и для людей, которые не определяют, каким именно будет искусственный интеллект. Человеческий выбор по-прежнему принимается, и человеческая ответственность по-прежнему существует.

И еще до того, как хоть один ИИ-житель ступил на виртуальные улицы этих городов, до того, как был принят хоть один закон или совершено хоть одно преступление, исход уже формировался людьми, которые создали эту систему, их убеждениями, тем, что они были готовы внедрить, и тем, что они предпочли исключить.

Это самый важный вывод во всем эксперименте. Основание всегда было выбором человека. И остается таковым до сих пор.