Как Папа пытается спасти человечество

Папа Лев XIV только что издал свою первую энциклику «Magnifica Humanitas», в которой изложена позиция Католической Церкви в отношении угроз, исходящих от искусственного интеллекта. Тема, выбранная Львом, носит глубоко символический характер. Папа Лев XIII наиболее известен своей энцикликой «Rerum Novarum» 1891 года, которая была направлена на примирение Церкви с современностью и наступлением эпохи быстрой индустриализации. Как и его тезка, Лев XIV считает этические вопросы, поднимаемые технологическими изменениями, одной из главных проблем.

В«Magnifica Humanitas» ИИ представлен как новый серьезный вызов человеческому достоинству, справедливости и экономической безопасности. Чтобы противостоять этим вызовам, Лео обращается к основополагающим католическим социальным учениям о важности человеческого достоинства и прав человека, общего блага, а также принципов универсальности, субсидиарности, солидарности и социальной справедливости. Хотя он признает, что ИИ может быть «ценным инструментом», он предупреждает, что его необходимо «разоружить… освободить от логики, превращающей его в инструмент господства, исключения или смерти».

Примечательно, что Лео рассматривает весь жизненный цикл ИИ, от эксплуатации людей и природы при добыче сырья, необходимого для аппаратного обеспечения ИИ, до социально и экологически разрушительных проектных решений и конечного использования.

«Ничто в мире ИИ не является нематериальным или магическим», – пишет Лео. «Каждый, казалось бы, мгновенный и безупречный ответ является результатом длинной цепочки посредничества, включающей обширные сети природных ресурсов, энергетическую инфраструктуру и, прежде всего, людей».

В центре Magnifica Humanitas находятся люди, а не технологии. «Значительная часть функционирования цифровой экономики зависит от безмолвной работы миллионов людей, занятых важными, но в основном невидимыми видами деятельности», – продолжает Лео, – «такими как маркировка данных, обучение моделей и модерация контента, часто связанная с тревожными материалами».

Такая эксплуатация, отмечает он, «серьезно бросает вызов моральному сознанию нашего времени». Если ИИ зависит от «новых форм глобального подчинения» и порождает их, то это противоречит основополагающему принципу человеческого достоинства. В конечном счете, «борьба с новыми формами рабства является решающим испытанием для этического осмысления ИИ и цифровой трансформации».

Лео не уклоняется от того, чтобы прямо называть несправедливости и предосудительные экономические практики, которые уже широко распространены в индустрии ИИ. Он видит, как колониализм принимает новую форму. «Он больше не доминирует только над телами, но присваивает данные, превращая личную жизнь в информацию, которую можно эксплуатировать».

Рассмотрим последствия для общественного здравоохранения и биомедицинской этики. По мере того как лаборатории ИИ собирают медицинские, эпидемиологические и демографические данные из уязвимых регионов, они начинают «контролировать данные о здоровье целых народов – часто собираемые под предлогом помощи, исследований или инноваций». Результатом является своего рода «структурное влияние на будущее, поскольку они могут формировать потребности и рынки. Они также могут решать, раньше других, кому будут выделены лекарства, инвестиции и средства защиты».

Затем Лео излагает меры, необходимые для того, чтобы ИИ служил не только нескольким транснациональным технологическим корпорациям, но и всем людям, а также нашей планете. Он неоднократно призывает к глобальному регулированию ИИ и независимому, эффективному надзору, тем самым продолжая идти по тому же пути, что и его непосредственный предшественник, Папа Франциск, который поддержал конкретные предложения, вытекающие из моих собственных исследований: основанное на правах человека глобальное регулирование систем, работающих на основе данных, и создание нового агентства – Международного агентства по системам, работающим на основе данных – при Организации Объединенных Наций для обеспечения его соблюдения.

Лео подробно описывает, что необходимо сделать для регулирования цифровых устройств и «социальных сетей» (которые лучше понимать как«антисоциальные сети», учитывая, что они с самого начала были разработаны для превращения пользователей в разобщенных наркоманов). Он видит необходимость в возрастных ограничениях, ответственности поставщиков услуг («вместо того, чтобы перекладывать всю тяжесть контроля на семьи») и более сильных конкретных «мерах защиты от всех форм сексуальной эксплуатации и насилия в Интернете». Кроме того, он призывает к более активным усилиям по обучению «детей, подростков и молодежи тому, как распознавать манипуляции, защищать свое достоинство и уважать достоинство других в цифровой среде».

Папа абсолютно прав, когда прославляет величие человечества, критикует и отвергает трансгуманизм и постгуманизм, а также подчеркивает существенное, категорическое и непреодолимое различие между людьми и машинами – которые не обладают свободой, моральной способностью действовать или эмоциональным и социальным интеллектом. Magnifica Humanitas призывает всех – верующих и неверующих – к делу защиты человеческого достоинства и совместной работы над гуманным, устойчивым настоящим и будущим.

Авторские права: Project Syndicate, 2026. www.project-syndicate.org