Казахстан намерен подчинить закону искусственный интеллект

В этом году в Казахстане создали комитет искусственного интеллекта при МЦРИАП РК и приняли концепцию развития ИИ на период до 2029 года. Теперь власти обсуждают грядущий законопроект, который будет регулировать корректную работу с личными данными граждан при создании новых технологий с применением ИИ. Для чего нужен этот закон и каким он должен быть? Об этом на панельной сессии национального форума Qazaqstan IGF 2024 рассуждали руководитель госполитики нового комитета и эксперты в области работы с данными.

Панельную сессию открыл ассистент-профессор международных отношений Maqsut Narikbayev University Бауржан Рахметов. Он отметил, что одна из главных проблем регулирования искусственного интеллекта – отсутствие единого определения данной технологии. Это серьёзно затрудняет разработку законодательных норм, так как любая неверная попытка дать определение несёт в себе риски. 

– Если у нас будет слишком широкое определение, тут свои минусы: будет охвачен слишком широкий спектр технологий, что может привести к чрезмерному регулированию. Например, автоматизация тоже является важным компонентом искусственного интеллекта, но не всегда необходимо регулировать саму автоматизацию, потому что её риски минимальны. С другой стороны, если определение будет слишком узким, есть возможность исключить из вида новые технологии, что может привести к недостаточному регулированию, – отмечает Рахметов.

Учёный указал, что проблема отсутствия терминологии упомянута в концепции развития ИИ в Казахстане, но при этом конкретного определения не содержится. Ожидается, что она появится в законе.

Ещё одна важная проблема, на которую указал Бауржан Рахметов, – это скорость, с которой развиваются технологии. Законодатели зачастую не успевают разрабатывать адекватные меры для регулирования новых технологий, что создает правовой вакуум. 

Чтобы объяснить свою мысль, эксперт привёл цитату из книги «Алисы в стране чудес» Льюиса Кэрролла: «Нужно бежать со всех ног, чтобы только оставаться на месте, а чтобы куда-то попасть, надо бежать как минимум вдвое быстрее». По мнению учёного, именно это происходит с ИИ: пока регуляторы разрабатывают новые законы, технологии уже уходят вперед, требуя постоянного обновления нормативной базы.

– К примеру, термин машинного обучения (machine learning) с момента своего появления уже эволюционировал. Если лет 20 назад, когда он только появился в науке, эта технология представляла собой одну узкую вещь, то сейчас мы уже говорим о таких подгруппах машинного обучения как «глубокое обучение» (deep learning), «обучение с подкреплением» (reinforcement learning), «обучение с учителем» (supervised learning). А поскольку машинное обучение – это важный элемент искусственного интеллекта, то такие нюансы тоже нужно учитывать при принятии определения для ИИ, – считает спикер.

Соответственно, при попытках осуществлять регулирование искусственного интеллекта необходимо помнить о техническом прогрессе, отслеживать его и оставлять возможность вносить принятые законы изменения с учётом новых условий отрасли.

Третий, самый значимый поднятый вопрос, который необходимо учитывать при регулировании искусственного интеллекта, – это конфиденциальность данных. 

Системы искусственного интеллекта зачастую работают с огромными объемами персональных данных, что порождает опасения в отношении защиты частной жизни. Особенно остро эта проблема стоит в отношении технологий распознавания лиц, которые не всегда соответствуют требованиям законодательства, как, например, в Европейском Союзе, где действует GDPR.

Если используемые для работы ИИ данные не будут должным образом очищены от персональной информации, это создаст риск не только их утечек, которых в последнее время происходит очень много, но и приведёт к предвзятости алгоритмов. Бауржан Рахметов привёл пример ситуации в компании Amazon, где в 2014 году работающая на базе ИИ система для найма сотрудников оказалась предвзятой в пользу мужчин. 

– Она отдавала предпочтение кандидатам-мужчинам и занижала оценки кандидатам-женщинам. Почему? Потому что данные, на которых она обучалась, содержали в основном резюме и анкеты мужчин. И она воспроизвела это так, что мужчины оказались более предпочтительными, создав тем самым дискриминацию. Проблема выявилась в 2017 году, и тогда эту систему свернули, – рассказал он.

Это наглядный пример того, как искусственный интеллект может усиливать социальные предрассудки и дискриминацию, если не уделять должного внимания обучению алгоритмов на сбалансированных данных. Законодательство должно учитывать этот момент, и указывать на него работникам технологических компаний.

Руководитель управления государственной политики комитета по искусственному интеллекту и развитию инноваций МЦРИАП РК Ерлан Смаилов пообещал, что все названные нюансы законопроект будет учитывать.

– Мы совместно с госорганами, министерством юстиции и экспертами НПП «Атамекен» дали понятие искусственному интеллекту, дали понятие системам искусственного интеллекта, создали сопутствующие законы, которые внесут поправки в предпринимательский кодекс и закон о защите персональных данных, чтобы закон о регулировании искусственного интеллекта полноценно работал. Этот законопроект будет предусматривать меры государственной поддержки и определит правовой режим для собственников систем искусственного интеллекта, – сказал Ерлан Смаилов.

По его словам, законопроект начали разрабатывать с 30 апреля и по итогам согласований с ответственными госорганами 21 сентября представили правительству. На данном этапе он представляет собой 21 статей, вписанные в 4 главы. Сейчас это документ с закрытым доступом. После того, как его текст изучит и одобрит администрация президента, он будет внесён депутатам мажилиса на обсуждение, редактирование и, в конечном счёте, официальное принятие.

Смаилов утверждает, что государство намерено придерживаться «мягкого» подхода в регулировании ИИ. 

– Мы, как государство, не хотим на данном этапе сильно регулировать искусственный интеллект. Потому что сфера новая, как для Казахстана, так и для всего мира. Эту технологию можно сравнить с ребёнком, который пока ещё должен развиваться. Этим законопроектом мы просто определили правовые рамки, чтобы у разработчиков были нормы и правильное понимание, как должна эта система работать, – добавил Смаилов.

При этом, по его словам, несмотря на «мягкость» регулирования, правовая база будет учитывать защиту данных и ответственность владельцев систем ИИ. Она возложена на держателей данных.

– В законопроекте у нас будет предусмотрено понятие «Библиотеки данных». Каждый госорган и владелец-собственник данных может сформировать свою библиотеку данных, которой он вправе распоряжаться. Для чего это нужно? Как вы знаете, есть поручение главы государства о создании национальной платформы искусственного интеллекта, оператором этой платформы определено АО «НИТ». Допустим, владелец данных хочет создать искусственный интеллект, какую-то определенную систему. Он сможет это сделать при помощи национальной платформы, у которой есть на это необходимые вычислительные ресурсы. Передавая АО «НИТ» данные из своей библиотеки, владелец данных должен их обезличить. Либо, если вдруг он сам по какой-либо причине не может это сделать, то тогда перед использованием их обезличит АО «НИТ». То есть, мы гарантируем, что на национальной платформе будут циркулировать только обезличенные персональные данные, – рассказал руководитель управления госполитики комитета по искусственному интеллекту в ответ на уточняющий вопрос.

Представитель государства также анонсировал, что постановлением правительства будут утверждены этические принципы для разработчиков искусственного интеллекта, которые будут распространяться для всех IT-специалистов, находящихся на территории Казахстана.

Помимо обсуждения государственного регулирования в ходе панельной сессии своим опытом разработки ИИ для учёта при создании законодательства поделились руководитель департамента по защите данных в Freedom Holding Corp Дмитрий Шапошников и управляющий партнёр группы компаний DAR Болат Садыкулов. 

Дмитрий Шапошников в ходе своего выступления рассказал о важности правильного управления данными. По его мнению, принадлежащие бизнесу данные и созданные на их основе ИИ должны при разработке законопроекта рассматриваться как активы. Он выделил три основных элемента, обеспечивающие успешную работу с данными: «процессы, технологии и люди». Представитель Freedom Holding Corp рассказал, что между доступностью систем и их защищенностью должен быть баланс – безопасность данных должна быть настроена таким образом, чтобы гарантировать защиту от киберугроз, но при этом не усложнять работу клиентов. Это необходимо учесть при разработке законопроекта. 

Болат Садыкулов больше сконцентрировался на собственном опыте разработки чат-ботов, помогающих улучшать бизнес-процессы внутри компаний, и не комментировал в своём выступлении законодательные аспекты. Однако он также подчеркнул, что все технологии всё ещё нуждаются в доработке, в частности, во внедрении казахского языка, и для ускорения этого процесса необходима поддержка со стороны государства.

Ранее, в августе, Exclusive.kz подробно рассказывал о содержании принятой концепции развития искусственного интеллекта в материале «Сможет ли искусственный интеллект поглотить Казахстан?».

• 13
• 12