Искусственный интеллект: пять стадий горя
Люди с диагнозом смертельной болезни, согласно знаменитой модели швейцарско-американского психиатра Элизабет Кюблер-Росс, переживают пять стадий горя: отрицание, гнев, торг, депрессия, принятие. То же самое можно сказать и о нашей реакции на стремительно расширяющиеся возможности искусственного интеллекта (ИИ).
Сначала казалось, что ИИ будет не более чем улучшенной поисковой системой или чат-ботом, который прилично имитирует человека. И поэтому было легко отрицать, что эта технология окажет серьёзное влияние на нашу жизнь или профессию.
Затем ИИ начал всюду проникать и при этом крайне раздражать. Его влияние можно было заметить в документах адвокатов со ссылками на выдуманные судебные дела; в программных кодах с ошибками и низким уровнем безопасности; в ботах клиентской поддержки, отклонявшихся от сценария; и (это особенно раздражало преподавателей, включая меня) в работах студентов. Всё это были веские причины для гнева.
Но потом ИИ улучшился. Выдумки, галлюцинации, ошибки стали реже. Когда стало очевидно, что использование ИИ студентами невозможно запретить, многие начали видеть пользу в этой технологии, помогающей расширить обучение. Настало время для переговоров. Нам надо было скорректировать методы работы, но мы убеждали себя, что возможности ИИ имеют естественные ограничения. Он мог выполнять огромные объёмы когнитивной и аналитической работы, причём гораздо быстрее любого человека; но все вопросы, связанные с суждением, вкусом, ценностями и предпочтениями по-прежнему оставались – и должны были оставаться – прерогативой человеческого разума. ИИ мог выполнять, а мы, люди, воображать. Вопрос сводился к правильному разделению труда.

Я долго цеплялся за это мнение и признаюсь, оно меня сильно утешало. Увы, ИИ не стал подыгрывать. Каждый раз, когда я задавал своему чат-боту тот или иной вопрос, он выдавал не просто ответ. Он говорил, на что мне ещё стоит обратить внимание, предлагал иные подходы, проводил параллели или сравнения с проектами, над которыми я работал ранее (хотя я их не обсуждал с ИИ). Это немного раздражало, но нельзя было отрицать, что я получал ценные идеи. Мне хотелось думать, что со временем я бы и сам пришёл к таким же выводам, но мой чат-бот регулярно меня опережал. Хуже того, он явно обладал богатым воображением.
Вдохновляясь утверждением моего коллеги Джейсона Фурмана, что инструменты ИИ сегодня лучше бы справились с работой профессиональных экономистов, входящих в штат Совета экономических консультантов (СЭК) при Белом доме, я решил протестировать свой чат-бот сложным вопросом: «2027 год, в стране кризис в сфере услуг ухода. Не хватает помощников по уходу на дому, растёт число несчастных случаев и смертей среди пожилых людей и инвалидов, оставшихся без помощи, а работники уходят с рынка труда, потому что им надо ухаживать за близкими. Председателю СЭК нужно представить президенту варианты решений».
Я нажал кнопку «ввод», и ИИ тут же выдал рабочий меморандум с подробными рекомендациями, включая федеральные гранты с софинансированием, коррекцию выплат в программе Medicaid, программу выдачи виз тем, кто оказывает услуги ухода. Всё это было дополнено бюджетными расчётами. Превысив полномочия (и, что характерно, сам промпт), он представил ещё и политическую стратегию продвижения этой программы.
Хм, подумал я, мой чат-бот явно очень хорошо ориентируется в текущей экономической и институциональной ситуации. Но может ли он выйти за её пределы? Для ответа на этот вопрос я попросил его разработать несколько нестандартных альтернативных мер без оглядки на политические реалии. Он выдал несколько интересных вариантов, включая идею «Национального корпуса услуг ухода», который мог бы привлечь молодёжь к уходу за пожилыми, а также превращение неиспользуемых офисных и торговых площадей в «центры ухода», которые смогут расти благодаря масштабам и агломерации.
Затем мне пришла в голову идея попросить ИИ превратить одну из моих статей в комический стендап-номер. То, что он выдал, заставило меня смеяться так сильно, что проходившие мимо люди могли встревожиться по поводу моей психики. Понимание, воображение, юмор! Но это же не было частью торга?
И тогда возникла депрессия. Я почувствовал глубокую печаль по поводу мира, в котором мысли людей уже нельзя будет отличить от работы машины – и с каждым днём они будут всё менее востребованными. Подобно математикам, подписавшим совместное письмо о влиянии ИИ на их науку, я начал беспокоиться по поводу утраты «концептуального понимания», которая произойдёт, если позволить ИИ выполнять нашу работу. Это пугало и дезориентировало.
Следующая стадия, согласно учебнику: принятие. Здесь у нас действительно есть выбор. В отличие от болезни в терминальной стадии, ИИ и его применение не находятся за пределами нашего контроля. Компании Кремниевой долины, которые разрабатывают эту технологию; бизнес, который её внедряет; профессиональные сообщества, которые устанавливают нормы надлежащего использования; правительства, которые должны когда-нибудь (лучше раньше, чем позже) начать её регулировать – все они каждый день принимают решения, определяющие наши отношения с ИИ. Худшая ошибка, которую мы можем совершить, это принять мир, в котором мы слишком многое уступили ИИ.
Ради блага человечества нам рано или поздно придётся задуматься о том, как ограничить использование ИИ. Уместной аналогией здесь служат лекарства, которые повышают работоспособность: они временно расширяют возможности людей, но в конечном итоге вредят им. ИИ очень похож на них, но только он гораздо мощнее, а его соразмерно более мощные катастрофические побочные эффекты проявится гораздо позже. Соблазн пользоваться им без ограничений очень силен и всегда будет таким.
Гомеровский Одиссей знал, что сирены обещают знания, но ведут к катастрофе. Он велел привязать себя к мачте корабля, чтобы не поддаться на их прекрасное пение и не поплыть к ним и скалам, погубившим стольких моряков. Наша задача в отношениях с ИИ аналогична: мы не должны утратить нашу человечность.
Copyright: Project Syndicate, 2026. www.project-syndicate.org
Иллюстрация на обложке сгенерирована с помощью ИИ



Все комментарии проходят предварительную модерацию редакцией и появляются не сразу.