Что общего между цифровыми заповедями Токаева и социальным кредитом в Китае?

Тема искусственного интеллекта (ИИ), похоже, становится мейнстримом для президента Казахстана, причем, как во внутренней, так и во внешней повестке.

Не успел улечься ажиотаж, вызванный его намерением создать на базе профильного комитета Минцифровизации и космической промышленности новое министерство искусственного интеллекта и цифрового развития, как на Съезде мировых религий прозвучала новая инициатива: теперь казахстанский президент предложил собравшимся в среду в Астане религиозным лидерам «создать Межрелигиозную комиссию по этике развития искусственного интеллекта, которая займется разработкой свода универсальных принципов ответственного использования нейросетей и других прорывных технологий». Поясняя свое предложение, Касым-Жомарт Токаев сказал: «Речь идет о своеобразных «заповедях для алгоритмов», которые подразумевают уважение к человеческому достоинству, недопустимость дискриминации, контроль над решениями, носящими судьбоносный характер».

Стоит отметить дипломатичность и аккуратность формулировок президента Токаева. Очевидно, что он прекрасно понимает: ИИ – медаль двухсторонняя, и то, что на первый взгляд кажется благом, может обернуться злом – наступлением на гражданские права и покушением на свободу личности.

Что в итоге выйдет из затеи с «Десятью цифровыми заповедями»? Ответить сейчас не возьмется никто. Ведь в эпоху, когда трещит по швам вся мировая архитектура безопасности, то тут, то там вспыхивают вооруженные конфликты, а в Украине четвертый год идет полномасштабная война с сотнями тысяч жертв,клерикалы – явно не годятся на роль мировых авторитетов. Впрочем, эта «дебютная идея» может стать гвоздем программы юбилейных мероприятий любимой Токаевым ООН в Нью Йорке, куда он собирается совсем скоро. Наш второй президент любит и умеет инициировать такие международные начинания – громкие, красивые, а иногда еще и полезные. «Убежден, что религиозные лидеры, как хранители нравственных ценностей, должны участвовать в обсуждении цифрового будущего человечества» – сказал он 17 сентября, обращаясь к представителям более 100 делегаций из 60 стран мира. Что ж, наконец-то астанайскому «глобальному саммиту лидеров мировых религий», изобретённому еще в назарбаевские времена, найдено хоть какое-то практическое применение.

А вот функционал будущего «искусственно-интеллектуального» министерства пока не очень понятен. Его контуры пытался обозначить в интервью Exclusive.kz директор по развитию технологий Freedom Holding Corp. Евгений Самойленко. Из рассказа эксперта стало понятно, что в Казахстане пока нет базовых условий для того, чтобы полноценно поставить ИИ на службу экономической модернизации страны. Тем не менее, многое станет ясным лишь после того, как будет известна фамилия министра и президент поставит перед ним конкретные задачи.

Некоторые наблюдатели сегодня опасаются, что одной из таких задач может стать практикуемый в соседнем Китае тотальный контроль за каждым гражданином страны – так называемый «социальный кредит». Суть китайского «ноу-хау», действующего в Поднебесной с 2021 года, проста: каждому китайцу присваивается «личный социальный рейтинг» и всем без исключения начисляется 1 тысяча условных баллов. Затем за каждое действие конкретного китайца – на службе, в общественной деятельности и даже в личной жизни – ему либо начисляют баллы сверху исходной тысячи, либо, наоборот, из этой тысячи вычитают. Набравший дополнительные балы получает от государства продвижение по службе, льготную ипотеку, скидки на обучение детей и другие «плюшки». А растерявший свою «штуку», напротив, лишается самого элементарного – ему могут отказать даже в дневной аренде велосипеда для передвижения по городу. В конце концов «ушедшие в минус» становятся нерукопожатными изгоями – ведь замеченные в общении с ними тоже лишаются баллов в личном социальном рейтинге. Потерять «очки» можно по множеству причин – от дебоша на улице с приводом в участок до критики власти офлайн или онлайн. А следит и анализирует за этим big data недремлющее око ИИ.

На первый взгляд, применительно к Казахстану это выглядит как голливудская антиутопия. Тем более, что Токаев наверняка не просто слышал о китайском варианте оруэлловского «Большого брата», но и видел эту драконовскую технологию в действии в ходе своих визитов в Поднебесную. Ведь там программа «социального кредита» действует уже более 4 лет. Не исключено, что в том числе и это подвигло его выступить с кейсом о «цифровых заповедях». Да и не диктует вроде бы сегодняшняя внутриказахстанская повестка необходимости слепо перенимать опыт «старшего брата» Си – как бы не казалось соблазнительной перспектива «набрать очки в глазах председателя Си – явно примеряющего на себя роль «нового старшего брата» Казахстана. Но в контексте все боле явного дрейфа Астаны в сторону Пекина нельзя полностью исключать даже самого фантастического сценария.