Чтобы работать на нас, ИИ не должен думать вместо нас

Всего пару-тройку лет назад искусственный интеллект (ИИ) казался лишь милой игрушкой – чат-бот, который имитирует разум, составляя законченные предложения в ответ на запросы пользователей, но который, по сути, был не сложнее продвинутой поисковой системы. Однако сейчас это уже невероятный инструмент, способный выполнять задачи, которые, как мне казалось, при моей жизни он не сможет.

Например, я использовал ИИ для поиска статистических данных в интернете, их обработки, проведения статистических тестов, а также создания красивых таблиц и графиков, дополненных весьма разумными комментариями о том, что именно означают полученные результаты, как они соотносятся с имеющейся научной литературой, а также о сильных и слабых сторонах этого анализа. Меньше чем за полчаса ИИ способен выполнить работу, на которую у научного ассистента ушло бы несколько дней.

Иногда кажется, что нынешние ИИ-модели способны почти читать ваши мысли. В отличие от программирования или кодирования, вам не нужно абсолютно точно указывать, что именно вы ищете, чтобы не возникли ошибки интерпретации. Модель «интуитивно» поймёт, что вам нужно, и сама заполнит недостающие детали (хотя вам лучше всегда их проверять, и это могут подтвердить юрфирмы, подавшие в суд сгенерированные ИИ документы с выдуманными цитатами). В ином случае интерфейс модели предложит вам уточнить запрос, пока он не станет ясным.

Приятно думать, что ИИ мог бы стать инструментом, который поможет нам всем стать продуктивней и лучше в том, что мы делаем. Он, безусловно, повысил эффективность моих исследований. И он снижает затраты предпринимателей, дёшево оказывая им маркетинговые и консультационные услуги. Он позволяет младшим сотрудникам клиентского сервиса применять навыки и знания более опытных сотрудников. И он даёт возможность работникам гиг-экономики или частным мастерам оказывать более продвинутые и технически сложные услуги.

В отличие от многих предыдущих технологий, ИИ уникально позиционирован, чтобы помогать людям, у которых меньше навыков и ниже уровень образования – то есть работникам нижних ступенек экономики. Наделяя каждого из нас расширенными возможностями, он обеспечивает преимущества, которые потенциально наиболее важны для тех, кто изначально находился в наиболее невыгодном положении. Это означает, что у ИИ может оказаться совсем иная функция, чем, скажем, у автоматизации, чья главная цель – заменить работников на конвейере или в сфере продаж и офисной работы.

Беспокойство, конечно, вызывает то, что ИИ будет делать не только это, а гораздо больше, и последствия не очень ясны. Пока что я считаю своей прерогативой выбор исследовательских вопросов и их формулировку, и это главный источник моих конкурентных преимуществ. Но я могу себе представить, что в какой-то момент у меня возникнет соблазн попросить ИИ самому сгенерировать эти вопросы. Более того, инструменты ИИ, которые я использую, уже подталкивают меня так поступать. В конце работы, которую я описал выше, они деликатно предложат дальнейшие направления плодотворного анализа, которым я мог бы заняться.

ИИ заменяет мышление людей и другими, менее явными способами. Он уже влияет на моё восприятие существующих исследований. Он не только обобщает уже написанное, но и подсказывает мне, какие смежные исследования могут быть полезны для моей работы, и что мне следует думать по этому поводу. Он находит связи между разными направлениями научной литературы, которые мне не приходили в голову.

И здесь таится большая опасность. Общественные дискуссии о влиянии ИИ на общество в основном сосредоточены на теме потенциального вытеснения работников и потери рабочих мест. Но есть ещё больший риск – вытеснение человеческой мысли. Когда мы позволяем ИИ думать вместо нас, мы пересекаем важный порог. Наша коллективная способность мыслить будет деградировать, как и наши стимулы учиться думать. А поскольку граница между использованием мыслей для решения проблем и собственно мыслями уже размыта, этот порог легко пересечь.

В интересной новой статье её авторы, Дарон Аджемоглу, Динвэнь Конг и Асуман Оздаглар из Массачусетского технологического института (MIT), сформулировали интуитивную догадку о том, как подобный когнитивный аутсорсинг может привести к катастрофическим результатам. Они задаются вопросом, что случится, когда ИИ-модели начнут очень хорошо предоставлять знания, подходящие к конкретным ситуациям, и помогать людям выполнять любые специфические задачи, которыми они заняты. Такая помощь позволит людям достигать лучших результатов и при этом меньше учиться.

Но тут возникает проблема, поскольку у знаний есть важный побочный эффект. Когда я думаю о том, как решить мою проблему, я вношу вклад в общий запас знаний о том, как другие могут решить свои. Когда я меньше вкладываюсь в собственное обучение, общий запас знаний начинает уменьшаться. В предельном, антиутопическом случае общее знание полностью исчезнет.

Да, это лишь теоретическая возможность – пока что. В зависимости от допущений по поводу силы эффекта конкуренции вероятны и более благоприятные исходы. Но угроза реальна. Когда мы позволяем ИИ учиться вместо нас и думать вместо нас, наши человеческие способности деградируют – и мы рискуем со временем уничтожить базу знаний, на которую опирается сам ИИ.

Для решения этих проблем потребуется разработка социальных и профессиональных норм надлежащего использования ИИ. Например, учёным, наверное, придётся детально раскрывать информации о том, как они использовали ИИ (инструменты ИИ могли бы автоматизировать этот процесс), при этом в решениях о публикации и их продвижении следует активно отдавать предпочтение продукции человеческого разума. Организации, подобные «Партнёрству для ИИ» (PAI), способны помочь в разработке и распространении общих принципов. И нам понадобятся новые формы государственного регулирования, что требовалось почти в каждом случае появления новых технологий.

Необходимым условием этих ответных мер является новый менталитет и новые подходы к ИИ. Прежде всего, нужно переформатировать общественные дискуссии. Вопрос, который мы должны обсуждать, не в том, что с нами сделает ИИ, а в том, что мы хотим, чтобы он делал для нас.

Copyright: Project Syndicate, 2026. www.project-syndicate.org