Аскар Акаев рассказал о том, что нас ждет в 2027 году

Через два годачеловечество подойдет к точке бифуркации – либо искусственный интеллект уничтожит нашу цивилизацию, либо перейдет на новый уровень своего развития. От чего это зависит? Каким может быть место Центральной Азии в мировом технологическом развитии? В каких отраслях мы должны использовать искусственный интеллект? Об этом exclusive.kz поговорил с первым президентом Кыргызстана, а сегодня профессором МГУ имени М.В. Ломоносова Аскаром Акаевым.

– Ваши лекции посвящены искусству разработки математических моделей для компьютерного моделирования и прогнозирования динамики сложных систем, протекающей в условиях нестабильности и неравновесия. Это как раз то, с чем сегодня сталкивается весь мир как на глобальном, так и локальном уровнях. Как это все применимо к нашей турбулентной реальности?

– Прежде всего, вы правильно заметили, что человечество переживает переломный момент в своей истории. До сих пор эволюция человечества шла с ускорением. Рост населения вызывал взрывной рост научных, культурных достижений. Теперь человечество на пороге момента, который математики называют бифуркацией, когда эволюция начнет замедляться. Но есть одно большое «но» – человечество изобрело себе конкурента в лице искусственного интеллекта. И если деятельность человечества начнет замедляться, то искусственный интеллект, наоборот, начнёт превосходить человека. Такого вызова еще перед человечеством никогда не было.

С ростом численности населения биосфера земли начала испытывать большие потрясения. Это прежде всего изменение климата и рост геоэкономической турбулентности. В прошлом веке был замечательный русский учёный Илья Пригожин, который первым исследовал химические процессы неравновесной ситуации. Именно он впервые показал, что самые интересные вещи происходят как раз в неравновесном состоянии.

Представьте себе графит. Это обычный хрупкий карандаш, который легко ломается в неравновесном состоянии. Но если привести определенные трансформации, то он превращается в самый твердый металл алмаз, из которого делают бриллианты. То есть в крайне неравновесном состоянии происходят такие удивительные перемены. За это исследование Пригожин был удостоен Нобелевской премии.

Сегодня мир переживает сверхдолгосрочный циклический кризис, когда идёт подъём восточных и падение западных цивилизаций. Глобальный Юг начинает превосходить большой Запад по экономическому, научному, технологическому потенциалу, что обостряет геополитическое противостояние.

Поэтому сегодня во всём мире геоэкономика и геополитика находятся в неравновесии. Прокси войны и конфликты закономерны и не поддаются обычным равновесным математическим моделям. Осознавая это, Илья Пригожин и ректор Московского университета Виктор Садовничий еще в 90-е годы создали в МГУ Институт математических исследований сложных систем, в стенах которого были предсказаны сегодняшние геополитические конфликты. И как раз эти модели оказываются самыми подходящими для моделирования нейронных сетей, которые лежат в основе искусственного интеллекта.

Но если американцы пошли по пути больших языковых моделей, то у нас в МГУ изучаются модели, которые больше подходят для использования в технологических исследованиях.

Например, сегодня астрофизики изучают дальние галактики. Информация о них собирается в больших дата-центрах, но ни один гений не способен это проанализировать. Этим занимается искусственный интеллект. И тут очень важно иметь модели, которые бы соблюдали причинно-следственную связь – то, чего нет у языковых моделей. Мы также занимаемся прогнозированием изменения климата, вырабатываем рекомендации по стабилизации этого процесса. Два года назад мы опубликовали, пожалуй, самый признанный научный доклад Римскому клубу.

– О чем был этот доклад?

– В 2018 году отмечалось 50-летие Римского Клуба, накануне которого был опубликован доклад американских ученых «Пределы роста». Он был очень пессимистичный. Его основная мысль – если человечество будет развиваться в таком индустриальном духе и дальше, то его ожидает экологическая катастрофа. Но они не совсем точно учитывали достижения прогресса – он всегда расширяет границы возможного. Академик Садовничий является почетным членом Римского клуба еще с советских времен. В 2022 году мы под его руководством подготовили доклад под названием «Преодолевая пределы», в котором показали, что наука и технологии позволят преодолеть все пределы роста, если страны объединят свои усилия. В нем мы дали новую картину мироустройства, как стабилизировать потепление климата, как добиться социально-экономического процветания для развивающихся стран Глобального Юга. Этот документ получил очень высокую оценку международного научного сообщества.

– Что такое информационные формулы Акаева-Садовничева?

– Развитие мира определяется технологическим прогрессом. В прошлом он определялся в основном двумя факторами. Первый – это люди, это знания, производительность труда, капитал и технологии. В последние десятилетия во всем мире, включая передовые страны все эти показатели падают, хотя есть исключения – Китай, Южная Корея, Индонезия и пр.

Но в последние десятилетия появился новый, более мощный фактор – информация. Именно она становится основным фактором технологического прогресса. Но до сих пор не было моделей, которые могли бы описать, как информация влияет на производительность труда. И вот мы с академиком Садовничим 15 назад взялись за эту задачу и нам удалось впервые разработать математику информационного влияния на технологический прогресс, производительность труда. А самое главное, моделировать эту воздействие. Сегодня ими пользуются всем мире.

– Сегодня самое употребляемое слово – неопределенность. Вы считаете, что нам нужно сейчас воспользоваться этой неопределённостью именно сейчас, потому что можно не только прогнозировать, но и моделировать ситуацию? Но как мы можем из графита, которым сейчас являемся, стать, если не бриллиантом, то хотя бы для начала алмазом?

– Замечательный вопрос. Действительно, сегодня это общая проблема для большинства стран мира. Мы переходим в цифровую эпоху, эпоху искусственного интеллекта, и как раз те страны, которые сумеют осуществить оптимальный переход, окажутся лидерами. И далеко не факт, что это будут те страны, которыми были передовыми в индустриальную эпоху. Те, кто сумеют воспользоваться этой неопределенностью, станут лидерами новой цифровой эпохи.

Поэтому мне нравится, что Казахстан тоже сегодня как раз предпринимает такие шаги. Я с огромным удовольствием прочитал Послание вашего президента народу Казахстана. В нем он сформулировал, как осуществить этот переход путем цифровизации и искусственного интеллекта. Я согласен, что именно это решит нашу конкурентоспособность в будущем. И если Казахстан сумеет это все претворить в жизнь хотя бы наполовину, я уверен, он станет одним из лидеров евразийского пространства.

– Да, это сейчас в тренде, но мы с вами живем в регионе, в котором до сих пор используется мотыга. Наши страны живут одновременно нескольких эпохах. Сельское хозяйство живет в лучшем случае в конце XX века, производство на рубеже 2000-х, но есть очень продвинутые отрасли – например, егов и так далее. Но как сократить этот разрыв? Нам обещали, что мы будем заниматься творчеством, а искусственный интеллект будет выполнять рутинную работу. Пока всё получается наоборот.

– Это самый, пожалуй, больной вопрос для человечества – как правильно использовать искусственный интеллект. Наша задача сделать так, чтобы ИИ действительно был дружелюбным помощником, избавив человека именно от рутины. В том числе в науке очень много рутинной работы по обработке данных, и как раз ИИ с этим очень хорошо справляется.

Теперь многие страны хотят сразу проскочить в цифровой мир. Но как раз это самый неоптимальный, неразумный путь развития. Оптимальный путь – сохранить и развивать и сельское хозяйство, и промышленность, и отрасли, которые отвечают национальным приоритетам. И вот как раз их надо автоматизировать. Например, в Швейцарии сельское хозяйство – самая технологически развитая отрасль экономики. В ней работает всего 1−2% населения, которые кормят не только свою страну, но еще и экспортируют в другие страны. Или Дания, крохотная страна, зарабатывает на экспорте сельскохозяйственной продукции столько же, сколько некоторые страны на экспорте нефти.

В Казахстане добываются не просто металлы, а очень редкие. Я их называю деликатесными. Сегодня это самый нужный материал для цифровых технологий, космоса, ИИ, я уж не говорю о военно-технической сфере. Поэтому Казахстану надо хранить контроль над ними как зеницу ока.

– Новый цикл ваших лекций называется «Теория трёх сингулярностей». Наше поколение уникально тем, что впервые совпали технологическая, демографическая и эволюционная сигнулярности. Что это значит?

– Текущий момент действительно уникален для всего человечества и эволюции Вселенной. Вообще, природа не любит сингулярности, она всегда их обходит. Примерно сто лет назад было открыто явление демографической сингулярности, когда учёные получили данные о росте численности населения Земли за тысячелетия, миллионы лет, начиная от Homo sapiens, а потом обработали, увидели, что вот эти все данные очень хорошо описываются гиперболой. И вот в середине прошлого века ученые пришли к выводу, что в 2027 году численность человечества уйдет в бесконечность. И испугались. Человечество начало принимать меры по снижению рождаемости. В том же Китае была принята программа «одна семья – один ребенок», печальные плоды которой они пожинают сегодня. Поэтому некоторые учёные придерживаются мнения, что человечество создало искусственный интеллект, чтобы передать ему эстафету, а само начнёт вымирать, как вымирали другие живые существа в истории Земли.

Но дело еще и в том, что если эволюция всей Вселенной до сих пор шла с ускорением и расширялась, то теперь этот процесс замедляется. И наложение этих процессов прогнозируется в 1927−1929 годах. Оно подсчитано самыми разными методами, по самым разным источникам данных. Теперь эволюция будет замедляться, а технологическое развитие будет ускоряться с помощью ИИ. Он будет саморазвиваться, самообучаться и момент, когда человек перестанет понимать искусственный интеллект как раз называют технологической сингулярностью. Одни ученые предсказывают, что это будет примерно в 2045 году, когда ИИ уже будет способен к самовоспроизводству и к саморазвитию. До этого опасного момента еще лет двадцать. Либо мы сможем установить контроль над искусственным интеллектом и он станет дружелюбным надежным помощником, либо он станет конкурентом человека, и таким образом начнется деградация человечества. Есть даже мрачные прогнозы, что человечество может быть уничтожено физически. Как всегда, вопрос в балансе.

– Я вижу источник этого баланса в культуре, в духовности, в творчестве…

– Абсолютно солидарен! Наступает эпоха поэтов, писателей, драматургов, которые бы подняли духовное богатство человека на новый уровень. Нужны Шекспиры, Мухтары Ауэзовы, Айтматовы…

Самые проницательные ученые мира говорят, что только духовность спасёт человечество. Есть эти критические 20 лет, чтобы человечество это осознало. И тогда человеческая цивилизация пойдёт по восходящей снова. Нам предстоит очень стрессовый период, мы будем под огромным и психологическим давлением, и особенно интеллектуальная элита. И к этому надо быть готовым.

– Искусственный интеллект может сделать всё, кроме одного. Он не может любить, не может сочувствовать, он лишён эмпатии. Может ли искусственный интеллект быть этичным?

– Никогда. Чувства, эмоции, этика присущи только живым существам. Поэтому мы говорим, что создатели ИИ должны его сконструировать доброжелательным к человеку. Сегодня это самая трудная проблема. И об этом предупреждает, кстати, один из пионеров создания больших языковых моделей, лауреат Нобелевской премии Джеффри Хинтон. Он всё время призывает ответственности – если потерять контроль над ИИ, вернуться к исходному состоянию будет невозможно. Он считает, что нельзя создать искусственный интеллект, который бы проявлял человеческие эмоции.

Поэтому Илон Маск и еще 40 предпринимателей, которые занимались искусственным интеллектом, обратились с воззванием ко всему миру о прекращении разработки искусственного интеллекта в военных целях. В нем не должна быть запрограммирована ненависть.

Бог, видимо, предусмотрел, такой сценарий и поэтому сейчас началось замедление эволюции. Пора дать человечеству расслабиться. Но похоже, ИИ станет наоборот источником стресса. Нам предстоит научиться жить с существом, которое превосходит нас по разуму. Такого никогда не было в истории человечества. Но я оптимист, и верю в адаптационные способности человека.

– Вот сделали интересную оговорку – Бог так решил, Бог продумал. Как вы думаете, искусственный интеллект не исключает, а подтверждает существование Бога?

– В последние годы я начал верить в существование Всевышнего. Человечество развивается по заданной программе. Она вписана в наше в ДНК. Сегодня ученые уже добрались до таких технологий, что могут ее корректировать. До сих пор человек полностью рождается, развивается по программе, заложенной в ДНК. И я уверен, они смогут скорректировать ДНК не только для излечения болезней, но и улучшить ее.

Человеческая цивилизация была запрограммирована на ускорение и в какой-то момент создать подобного себе по разуму неорганического существа в лице искусственного интеллекта. Некоторые ученые называют это синдромом Медеи, которая в древнегреческой мифологии была пожирательницей своих детей. Эта гипотеза пришла как смена эпохи Геи, создавшей всё живое на Земле. И вот предстоящие 20 лет как раз решат, кто прав. Только Бог знает, по какой ветке мы пойдем.

Почему? Потому что такое совпадение сингулярностей не свойственно природе, оно невозможно по теории вероятности. Кто, если не Бог, это заложил?