Гонка ИИ выходит из-под контроля. Что делать миру?

Эпоху искусственного интеллекта можно изобразить с помощью кривой с крутым подъемом и постепенным спуском. Кривая поднимается почти вертикально: модели стремительно становятся дешевле, мощнее, доступнее и все глубже внедряются в производство, науку, образование, финансы, администрацию, безопасность и военное дело. Ниже нее наклон кривой становится гораздо более пологим. Это способность общества воспринимать изменения.

Этот склон охватывает обновления нормативно-правовых систем, правовых структур и компетенций органов государственной администрации. Он также включает изменения в школьных учебных программах, бизнес-моделях, рабочих процессах и профессиях. Кроме того, она охватывает способность граждан функционировать в этой новой среде – в том числе их способность отличать правду от симуляции, убеждение от манипуляции, а помощь от зависимости. Это тот социальный метаболизм, посредством которого технологический шок интегрируется в функционирующий порядок.

Безусловно, предыдущие технологические и промышленные революции также можно было бы изобразить с помощью такой кривой и наклона. Технологии развивались и распространялись быстрее, чем к ним успевали адаптироваться нормативные акты, бизнес-модели, системы образования, рынки труда и образ жизни. Переходные процессы часто были болезненными и никогда не происходили автоматически. Однако разрыв между кривой и наклоном был меньше: по скорости и масштабу трансформация, движимая искусственным интеллектом, кажется, не имеет себе равных.

Обсуждение того, как управлять этим переходом, обычно сводится к вопросу о том, в какой степени регулирование обеспечивает «правильный баланс» между инновациями и безопасностью. Мы не хотим накладывать бюрократическую печать на прогресс не больше, чем мы хотим оставить общества одни наедине с собой, вынужденные в одиночку и в ускоренном темпе преодолевать последствия технологии, которая преобразует наше самое базовое понимание труда, знаний, власти, ответственности и суждений.

Но этот вопрос сформулирован слишком узко. Регулирование играет решающую роль, но само по себе оно не является управлением. Для этого мы должны определить условия, необходимые для того, чтобы общества могли сосуществовать с ИИ, не подвергаясь его доминированию.

Первый шаг – перестать думать об ИИ как о чем-то неосязаемом – о какой-то эфирной технологии, существующей в «облаке» и выполняющей все, что от неё требуют. ИИ зависит от огромных объемов капитала, передовых микросхем, систем кибербезопасности, цепочек поставок и талантливых специалистов. Он также опирается на огромные центры обработки данных, которые выделяют шум, свет и тепло, и которым требуются земельные участки и разрешения, а также огромные объемы электроэнергии и воды.

Сообщества, на территории которых размещаются физические объекты этой якобы невесомой технологии, теперь вынуждены сталкиваться с серьезными потрясениями и нести высокие издержки: их земли выкупаются, их энергосети перегружены, а запасы воды истощаются и загрязняются. Необходимо принимать сложные решения, касающиеся зонирования, цен на электроэнергию и охраны окружающей среды.

Но управление ИИ – это не только проблема на уровне сообществ. Эта технология играет всё более центральную роль в инфраструктуре национальной мощи: военное целеполагание, кибероперации, анализ разведывательных данных, научные открытия, промышленная автоматизация, наблюдение, финансовое моделирование и политическое влияние. Тот, кто контролирует самые передовые модели, микросхемы, вычислительные кластеры и талантливых специалистов, обладает не просто коммерческим, но и стратегическим преимуществом.

Это хорошо понимают Соединённые Штаты и Китай, которые упорно соревнуются за лидерство в области ИИ: каждая из стран считает, что отставание сделает её уязвимой в военном, экономическом или политическом плане. Подобно ситуации с ядерным оружием, ставки кажутся экзистенциальными. Это ведёт к секретности, недоверию, упреждающим действиям и безудержному ускорению развития.

Риски усугубляются тем, что ИИ более распространен, чем ядерные технологии, более тесно интегрирован в коммерческую сферу и имеет более широкое применение. Более того, его результаты трудно проверить, а как только возможности зашифрованы в программном обеспечении, их распространение становится легким.

Управление ИИ должно учитывать все эти факторы – от материальных требований технологии до её воздействия на отдельных людей, сообщества, предприятия, рынки труда, окружающую среду, национальную безопасность и международную стратегическую конкуренцию. С этой целью необходима комплексная архитектура доверия, основанная на проверке, – более широкая, чем национальное регулирование ИИ, и более гибкая, чем классический договор.

Полезной моделью может служить Парижское климатическое соглашение 2015 года. Оно создало динамичную структуру, включающую добровольные обязательства, взаимное давление, регулярные обновления, надежные измерения и широкое участие. Однако аналогичное соглашение по ИИ должно также отражать ключевой урок режимов нераспространения: там, где политическое доверие слабо, его необходимо дополнять испытаниями, ограничениями и проверками.

В результате создаваемая система будет сочетать гибкость климатической дипломатии с дисциплиной ядерного контроля. Развивающиеся обязательства будут сопровождаться механизмами оценки их достоверности и воздействия. Действия государств будут сопровождаться обязательствами корпораций.

«Парижское соглашение по ИИ» предусматривало бы общие определения передовых моделей; пороговые значения для усиленного контроля; обязательное сообщение об инцидентах; общие стандарты оценки; защиту весовых коэффициентов моделей; правила внедрения в чувствительные секторы; а также независимое тестирование систем, представляющих риски для кибербезопасности, биологической безопасности, критически важной инфраструктуры или принятия военных решений. Каждый из этих элементов будет регулярно пересматриваться и укрепляться с течением времени техническими органами, разбирающимися в развивающихся технологиях, и политическими органами, способными применять санкции в случае игнорирования обязательств.

Конечно, не каждое приложение требует одинакового подхода. Узконаправленный инструмент, используемый в условиях низкого риска, требует ограниченного надзора. Напротив, передовая модель, способная повлиять на кибербезопасность, биологический дизайн, военные операции или автономность критически важных систем, должна подпадать под более строгие требования и, в крайних случаях, подлежать вмешательству.

Некоторые могут возразить, что это задушит инновации. Но никто не сел бы в самолет и не принял бы новый препарат, если бы безопасность зависела исключительно от доброй воли производителей. В этих областях регулирование не устраняет риск; оно делает риск социально приемлемым. То же самое верно и для ИИ.

Такая система не может быть представлена как европейский проект, американский инструмент или альянс, направленный на противодействие Китаю. Её легитимность будет зависеть от инклюзивности: право голоса должны получить как страны, находящиеся на технологическом передовом крае, так и «средние державы», и развивающиеся экономики. В этом процессе также должны участвовать университеты, компании и организации гражданского общества.

Кривая будет становиться всё более крутой. Мы не можем сгладить её указом, ни замаскировать речами. Но мы можем решить, будет ли она расти бесконтрольно или в рамках архитектуры, способной идти в ногу с развитием.

Авторские права: Project Syndicate, 2026. www.project-syndicate.org