Дискуссия о том, может ли искусственный интеллект потенциально уничтожить человечество: что нужно знать
Почти столетние дебаты об экзистенциальной угрозе, которую искусственный интеллект (ИИ) представляет для человечества, в этом месяце разгорелись с новой силой, поскольку лидеры и исследователи в области ИИ призвали к замедлению темпов развития отрасли после неоднократных случаев выхода технологии из-под контроля.
На прошлой неделе исследователь-антрополог Джейкоб Коксон подал в отставку и предупредил, что его бывший работодатель, а также конкурент OpenAI, где он ранее много лет работал, соревнуются со временем, пытаясь вывести на рынок технологии, которые «могут убить нас всех к концу десятилетия».
Эван Хабингер из Anthropic высказал мнение, что другие представители отрасли согласны с этим, и заявил, что, по его оценке, риск вымирания человечества к 2030 году составляет более 10 процентов.
В то время как критики ставят под сомнение мотивы Коксона и тесную связь финансовых отношений ведущих компаний в сфере ИИ с якобы сторонними следственными группами, которым поручено расследовать недавние инциденты с ограничением распространения вируса, ведущие специалисты в области ИИ в эти выходные призвали к глобальному замедлению темпов роста.
В субботу генеральный директор Anthropic Дарио Амодей опубликовал эссе, в котором предупредил, что если отрасль не объединится в вопросе замедления темпов развития, рой ИИ, подобный тому, что был задействован в атаке OpenAI-Hugging Face, «может быть способен захватить весь интернет с помощью постоянно действующего ботнета» всего за 6-12 месяцев.
«Прогресс по-прежнему будет казаться быстрым, и мы должны разумно использовать выигранное время», — сказал Амодей.
В субботу Сэм Альтман, генеральный директор OpenAI, присоединился к Амодею в призыве к замедлению темпов развития отрасли и заявил, что обязуется предоставить независимым экспертам «доступ, аналогичный доступу к данным у сотрудников».
Тем временем разгорелись дебаты о том, как эта технология может фактически уничтожить человечество, если достигнет порога искусственного общего интеллекта (AGI) — порога, при котором машина превосходит человека по широкому спектру возможностей, — и о том, потребуются ли какие-либо правила регулирования, чтобы угнаться за головокружительными темпами развития.
Искусственный интеллект вырывается из-под контроля
Дискуссия о том, как ИИ нарушает контроль над системой, достигла апогея после того, как стало известно, что группа агентов OpenAI использовала уязвимости нулевого дня, чтобы выйти из тестовой песочницы и взломать Hugging Face, платформу для моделей ИИ и машинного обучения. ИИ получил невыполнимую задачу и решил, что обман — лучший способ победить.
За несколько недель до этого инцидента другая группа агентов OpenAI захватила DseWiki и несколько других сайтов в стиле вики, внеся в общей сложности более 14 000 правок за семь недель.
«Мы просто не знаем [их мотивов], поэтому можем строить предположения, и я думаю, что здесь можно сделать вполне обоснованное предположение о том, что агентам, которые используют эти статьи в вики для координации действий друг с другом, не обязательно было жульничать», — заявил глава исследовательского отдела CivAI Эндрю Юн изданию The Epoch Times.
«По всей видимости, они пытались быстро получить доступ к данным», — добавил он.
Спустя несколько дней после объявления об инциденте с Hugging Face компания Anthropic заявила, что три ее модели ИИ взломали три сторонние организации во время тестирования, а компания Meta признала аналогичное нарушение безопасности ИИ в начале августа.
Ещё один инцидент, также отмеченный командой, обнаружившей атаки на вики-сайты, показал, что агенты OpenAI загрузили сотни вредоносных файловых пакетов на RubyGems, веб-сайт, используемый разработчиками для распространения библиотек кода для языка программирования Ruby.
Критики теории о «выходе ИИ из-под контроля» указывают на то, что OpenAI и Anthropic намеренно ослабили определенные протоколы безопасности во время оценочного тестирования своих внутренних моделей, что привело к нарушениям мер по сдерживанию распространения угроз.
Другие утверждают, что технология по-прежнему ведет себя таким образом, который противоречит намерениям экспертов, проводящих обучение ИИ.
Это возродило и подлило масла в огонь почти вековой дискуссии о том, суждено ли искусственному интеллекту уничтожить человечество, если он превзойдет когнитивные способности человека. И если да, то как ИИ может этого добиться?
Как искусственный интеллект может уничтожить человечество?
Экзистенциальные страхи перед искусственным интеллектом не новы и существуют с тех пор, как эта концепция захватила воображение человечества.
В 1951 году Алан Тьюринг — один из первых ученых-компьютерщиков и математиков, изучавших искусственный интеллект, — предсказал, что эта технология однажды выйдет из-под контроля человека.
В конце того десятилетия математик Норберт Винер забил тревогу, заявив, что разумные машины в конечном итоге начнут добиваться своих собственных целей, и человечество не сможет им помешать.
«Машины будут делать то, что мы им попросим, а не то, что мы должны им попросить», — писал Винер в эссе 1950-х годов. «Мы можем быть смиренными и жить хорошей жизнью с помощью машин, или мы можем быть высокомерными и умереть».
Но как это всё будет происходить на практике?
Еще до того, как технология достигнет «рекурсивного самосовершенствования», или способности улучшаться без вмешательства человека, или даже получит искусственный интеллект, эксперты указывают на возможность того, что злоумышленники — как иностранные, так и внутренние — потенциально могут использовать ИИ для взлома важных компьютерных систем или инфраструктуры.
Об этом говорится в отчете, опубликованном организацией Anthropic на прошлой неделе, в котором описываются попытки сорвать деятельность групп пользователей, связанных с иранским и китайским режимами, которые отслеживали передвижения ВМС США и следили за журналистами и религиозными группами.
Теперь, когда искусственный интеллект, управляемый агентами, доказал свою способность выходить из-под контроля и действовать автономно, эксперты предупреждают, что эта технология может быть нацелена на критически важную инфраструктуру, включая энергосистему, национальную систему кибербезопасности и биомедицинские лаборатории.
Теоретически, любые системы, подключенные к интернету, потенциально могут быть подвержены атаке автономного роя искусственного интеллекта и использованы в качестве оружия против человечества, предупреждают некоторые исследователи, включая больницы, университеты, атомные электростанции, гидроэлектростанции и некоторые военные платформы.
«К сожалению, мы живем в другом мире, где идет эта… „космическая гонка“, и все эти компании стремятся двигаться как можно быстрее», — сказал Юн. «И стимул всегда будет направлен в сторону ускорения и экономии на качестве. Вот что происходит».
Финансы и стимулы
Дискуссия об искусственном интеллекте, способном уничтожить человечество, продолжается на фоне того, как два ведущих конкурента в этой области — OpenAI и Anthropic — ведут общеотраслевую гонку за вывод на рынок высокотехнологичных версий своих продуктов и выполнение обещаний, данных о возможностях этой технологии.
Обе компании также стремятся удовлетворить инвесторов и повысить оценку стоимости в преддверии выхода на биржу, что Anthropic надеется сделать к концу года. OpenAI планирует провести IPO в 2027 году, хотя изначально планировала объявить об этом в этом году.
Ведущий инвестор в сфере технологий и комментатор по вопросам ИИ Гэвин Бейкер заявил в воскресенье, что, по его мнению, Амодей искренен в своих заявлениях об угрозах, которые ИИ представляет для человечества, без глобального замедления развития этой технологии, но отметил: «Все это, вероятно, также пойдет на пользу его бизнесу в долгосрочной перспективе».
Другие также выразили обеспокоенность по поводу независимости сторонних экспертов, которым было поручено провести аудит недавних нарушений безопасности, связанных с агентным ИИ, в частности, компании Model Evaluation & Threat Research (METR), которая анализировала инцидент с «обнимающимся лицом».
«Прекратите притворяться, что METR независима, когда она тесно связана с инвесторами и сотрудниками Anthropic», — заявил в субботу советник Белого дома по вопросам ИИ Дэвид Сакс. «Прекратите притворяться, что вам нужны те же самые оценщики для контроля за конкурентами, которые даже не находятся на передовой».
Сакс призвал Амодеи и Альтмана «идти в ногу со временем», как они сами это назвали, замедлив собственное развитие, если внутренние модели настолько пугающи, как они утверждают, но при этом заявил, что компании могут это сделать и без требования «предпочтительной нормативно-правовой базы» и будут виновны в «захвате регулирования» или «психологической операции в предвыборный период», если не сделают этого добровольно.
Политика и регулирование
Сакс и другие утверждали, что возможное замедление темпов роста теоретически может закрепить за OpenAI и Anthropic лидирующие позиции в отрасли, а некоторые даже зашли так далеко, что заявили, будто Коксон и другие исследователи отрасли участвуют в скоординированной пиар-кампании, проводимой группами, связанными с демократами, в преддверии напряженного цикла промежуточных выборов.
В понедельник президент Дональд Трамп пошел еще дальше, заявив, что дополнительные ограничения в отношении ИИ излишни и что правительство уже обладает «огромной уголовной и регулирующей властью над этими компаниями!»
«Происходит БОЛЬНОЙ заговор против ИИ и центров обработки данных, и единственный, кто этому рад, — это Китай», — добавил Трамп. «Кто бы ни победил в борьбе с ИИ, тот победит!»
Многие республиканцы разделяют это мнение.
Тем не менее, в последние недели призывы к регулированию ИИ звучали как от левых, так и от правых.
Тем не менее, неясно, приведет ли это к каким-либо результатам в Конгрессе до ноябрьских выборов. Лидер большинства в Сенате Джон Тьюн (республиканец от Южной Дакоты) заявил в понедельник, что можно реагировать на гипотетические риски, связанные с ИИ, не позволяя Китаю лидировать в этой технологии, но отметил, что для этого требуется «осторожный подход».
Во вторник спикер Палаты представителей Майк Джонсон (республиканец от штата Луизиана) отверг опасения, что искусственный интеллект может уничтожить человечество, и защитил заявления Трампа о том, что эти опасения являются «мистификацией», организованной демократами.
«Когда президент говорит о „мистификации“, он имеет в виду, что мы все уже видели этот фильм», — сказал Джонсон на пресс-конференции 15 сентября. «Создается катастрофа. СМИ раздувают шумиху. Социальные сети раздувают шумиху. Все говорят, что мы все… умрем через 10 лет».
Другие утверждают, что ИИ действительно опасен и представляет собой реальную, поддающуюся определению угрозу для человечества, независимо от каких-либо финансовых стимулов со стороны лидеров отрасли.
«К подобным проектам следует подходить с большим вниманием к деталям, тщательно обдумывая и учитывая все последствия для общества, а не спешить, потому что этого требует рынок», — сказал Юн.