Папа Римский заявил, что для защиты «человеческой семьи» может потребоваться замедление темпов развития искусственного интеллекта

25 мая Папа Лев XIV опубликовал документ, в котором призывает к введению жесткого регулирования и независимого надзора за искусственным интеллектом (ИИ), а также призывает разработчиков ИИ не упускать из виду общее благо в погоне за прибылью и технологическим превосходством.

«Magnifica Humanitas» («Великолепное человечество») — это первая энциклика Папы, родившегося в США, и первое высказывание Ватикана в дискуссии об искусственном интеллекте.

«Призыв к осмотрительности, тщательной оценке и даже, порой, к более медленному темпу внедрения ИИ не означает противодействия прогрессу», — написал Лео в энциклике. «Напротив, это проявление ответственной заботы о человеческом роде».

«Эта необходимость становится тем более актуальной, учитывая частый разрыв между темпами технологического прогресса и более медленным формированием общественного сознания, норм, механизмов защиты и институтов, способных регулировать его последствия».

Необходимость «независимого контроля»

Он заявил, что абстрактных этических принципов в отношении ИИ недостаточно и что необходимы «надежные правовые рамки, независимый надзор, информированные пользователи и политическая система, которая не уклоняется от своих обязательств».

Этот текст может стать еще одним поводом для конфликта между Ватиканом и администрацией Трампа, которая стремится к дерегулированию развития искусственного интеллекта, чтобы США могли конкурировать с Китаем и другими соперниками.

В декабре президент США Дональд Трамп подписано указ о разработке национального стандарта в области регулирования искусственного интеллекта, который не позволит законам штатов выходить за рамки этого стандарта.

«Тщательно разработанная национальная стратегия может обеспечить победу Соединенных Штатов в гонке за искусственный интеллект, которую мы обязаны выиграть», — говорится в указе Трампа.

Новая энциклика была подписана Левом 15 мая, в 135-ю годовщину публикации «Rerum Novarum» («О новых вещах») — документа, изданного папой Левом XIII для защиты прав рабочих в период промышленной революции.

«Сегодня слияние автоматизации, робототехники и искусственного интеллекта стремительно меняет саму структуру труда», — отметил Лео в энциклике, добавив, что, хотя искусственный интеллект обещает повысить производительность за счет взятия на себя рутинных задач, существует опасность потери квалификации работниками и их оттеснения к «жестким и однообразным задачам».

«Необходимость идти в ногу с техническим прогрессом может подорвать у работников чувство собственной значимости и подавить их инновационный потенциал, который от них ожидают на рабочем месте. Именно для того, чтобы избежать такого развития событий, необходимо разрабатывать системы, в центре которых стоит человек, а не только производительность».

«Стремление к увеличению прибыли не может служить оправданием для решений, которые приводят к систематической ликвидации рабочих мест, поскольку человек является целью, а не средством, и экономический порядок должен оставаться подчиненным человеческому достоинству и общему благу».

«Сегодня, в эпоху искусственного интеллекта и робототехники, как никогда ранее, нельзя полагаться исключительно на „невидимую руку“ рынка».

Угроза «антигуманного мировоззрения»

«Опасность заключается не только в неправомерном использовании отдельных технологий, — сказал Лео. — Гораздо серьезнее то, что всепроникающая технократическая парадигма, в которой мы живем и которая усиливается под влиянием цифровой революции и искусственного интеллекта, грозит превратить антигуманное мировоззрение в норму».

Текст был опубликован на сайте Ватикана в понедельник утром и представлен на пресс-конференции, транслировавшейся в прямом эфире, на которой Лео выступил вместе с соучредителем компании Anthropic Кристофером Олахом.

«Если эта технология появится, она должна принести пользу нашему общему дому и будущим поколениям», — сказал Олах.

«Некоторые могут полагать, что вопросами искусственного интеллекта лучше всего заниматься таким компьютерным специалистам, как я. Они ошибаются. Вопросы, поднимаемые искусственным интеллектом, выходят за рамки научного сообщества, занимающегося ИИ, — не только по своим последствиям, но и по своей сути».

«Системы искусственного интеллекта создаются не так, как мосты или самолеты. Мы понимаем, как устроен самолет, потому что сами разработали каждую его деталь и знаем, какие физические законы на него действуют.

«Модели искусственного интеллекта устроены не так. Они развиваются на основе структуры, приблизительно повторяющей устройство мозга, опираясь на огромное наследие человеческой мысли и речи, и то, что в результате получается, гораздо тоньше, необычнее и прекраснее, чем то, к чему нас подготовила научная фантастика».

Выступая на той же пресс-конференции, Анна Роулендс, профессор кафедры католической социальной мысли и практики Даремского университета в Англии, заявила: «В документе „Magnifica Humanitas“ отмечается, что инновационный потенциал, который традиционно принадлежал государствам, сегодня сосредоточен в руках нескольких богатых людей, чья деятельность скрыта от общественного контроля и рискует превратиться в новую империю».

Извинения Папы за рабство

Ранее в понедельник Лео принес первые в истории извинения от имени Святого Престола за историческую поддержку рабства.

«Невозможно не испытывать глубокой скорби, размышляя о безмерных страданиях и унижениях, выпавших на долю столь многих людей, что резко контрастирует с их безграничным достоинством как личностей, бесконечно любимых Господом», — написал Лев. «Поэтому от имени Церкви я искренне прошу прощения».

Среди ряда папских указов, оправдывавших рабство, в 1452 году папа Николай V издал папскую буллу, которая давала португальскому королю и его преемникам право «вторгаться, завоевывать, сражаться и подчинять» земли, населенные мусульманами и язычниками, а также «превращать их в вечных рабов».

Лео подвергся критике со стороны Трампа после своих высказываний о войне с Ираном и иммиграционной политике администрации.

В начале этого месяца госсекретарь Марко Рубио с папу римского в Риме для обсуждения целого ряда вопросов, в том числе ситуации на Кубе и проблем со свободой вероисповедания во всем мире.

Издание «The Epoch Times» обратилось в Госдепартамент США с просьбой прокомментировать проект «Magnifica Humanitas», но к моменту публикации ответа не получило.