Сможет ли искусственный интеллект выжить в Казахстане?

Казахстан готовится к принятию первого закона об искусственном интеллекте. В документе предлагаются ограничения на полностью автономные системы, запреты на манипуляцию сознанием и возможность добровольного страхования рисков. О содержании проекта и международных аналогах такого закона рассказала на форуме по AI и управлению данными «Цифровое перерождение 2025» Диана Райан, председатель рабочей группы по цифровизации ИИ Американской торговой палаты в Казахстане.

Обсуждение искусственного интеллекта в Казахстане постепенно смещается из сферы технических решений в плоскость политических и правовых приоритетов. От того, какими окажутся первые нормативные шаги, зависит не только скорость внедрения технологий, но и то, в чьих интересах они будут работать – государства, бизнеса или пользователей.

В своём выступлении Диана Райан напомнила, что развитие искусственного интеллекта в Казахстане уже закреплено на стратегическом уровне. В прошлом году была утверждена концепция развития ИИ, рассчитанная на ближайшие пять лет, – до 2029 года.

– Эта стратегия охватывает все стороны жизни, все стороны экономики и, собственно, даже деятельности страны: здравоохранение, образование, производство и так далее, – отметила Диана Райан.

Одной из заявленных целей стало внедрение ИИ в систему государственных услуг. В концепции ставится задача к 2029 году перевести на искусственный интеллект по крайней мере 20% всех госуслуг. Эксперт при этом верит, что эта цифра может быть и выше. По её словам, особая роль в реализации этих задач отводится государственным структурам, которые, с одной стороны, сами будут внедрять ИИ, а с другой – задавать правила его использования.

На законодательном уровне эти правила впервые сформулированы в проекте закона об искусственном интеллекте, представленном в этом году в мажилисе. Именно с ним и связано активное обсуждение допустимых форм, ограничений и моделей ответственности.

Диана Райан отметила, что одна из ключевых тем законопроекта: классификация ИИ-систем по степени автономности. Есть помощники – то есть ИИ, которые просто помогают человеку принимать решения. Есть полуавтономные системы – когда всё ещё можно вмешиваться. А есть полностью автономные системы, где решения принимает ИИ без участия человека. Их предполагается запретить в Казахстане, потому что они действуют на основе собственных приоритетов, не поддающихся внешнему контролю.

Следующий важный крупный блок законопроекта – ограничения на использование ИИ в чувствительных сферах.

– Речь идёт о недопущении манипуляции сознанием, использовании технологий, которые могут нанести вред пользователям в стране, – объяснила эксперт.

Наряду с этим рассматривается возможность добровольного страхования от рисков, связанных с ИИ. Это обсуждается как один из механизмов защиты для бизнеса и для пользователей.

Председатель рабочей группы по цифровизации ИИ Американской торговой палаты в Казахстане рассказала, что обсуждение законопроекта ведётся с оглядкой на глобальный опыт. В её зону ответственности входит не только Казахстан, но и другие страны региона, что позволяет ей видеть картину шире.

– Я знаю очень многое из того, что происходит в мире в плане законодательного развития. В Турции недавно был принят законопроект об ИИ. В Евросоюзе существует AI Act. В США также есть соответствующий акт, – привела эксперт примеры.

Она подчеркнула, что Казахстан не должен пытаться создать всё с нуля. По информации Американской торговой палаты, уже во всём мире наблюдается движение к диалогу между бизнесом и государством в вопросах ИИ. И поэтому необходимо учитывать лучшие практики, – то, что уже наработано и уже усвоено.

Прекрасной моделью является уже упомянутый европейский AI Act, – первый в мире комплексный закон, систематизирующий регулирование ИИ по уровням риска. Известно, что он запрещает определённые практики (например, поведенческую манипуляцию и социальный рейтинг), жёстко регулирует высокорисковые системы (в здравоохранении, образовании, правосудии), а также вводит принципы прозрачности, сертификации и подотчётности. Этот акт уже стал основой для регулирования не только в странах ЕС, но и за его пределами.

Отдельно Диана Райан коротко рассказала о работе Американской торговой палаты в Казахстане и других странах мира. Она отметила, что организация не только следит за законодательными инициативами, но и активно участвует в их обсуждении.

– У нас есть контакты со множеством компаний, таких как POCO, Meta, DIONIX. Мы объединяем их в рабочие группы, обсуждаем предложения, вырабатываем общие позиции, которые затем представляем на больших площадках, – рассказала она.

Такая работа, по её словам, ведётся не только в Казахстане. Например, AmCham активно участвовали в разработке закона об ИИ в Турции, Польше и Индии. Совместная работа позволяет создать более современный и эффективный законопроект, – отвечающий всем актуальным требованиям времени и учитывающий интересы бизнеса.

В финале выступления эксперт отметила, что из-за ограниченного регламента выступления не удалось обговорить все нюансы современно регулирования искусственного интеллекта. Но даже то, что прозвучало, даёт понимание, каким может стать подход Казахстана к регулированию ИИ: с одной стороны, открытым к диалогу, с другой – ориентированным на жёсткие ограничения.

Переход от стратегии к закону открывает возможность выстроить систему, в которой искусственный интеллект станет действительно общественно полезным инструментом. Но одновременно есть риск воспроизведения избыточно охранительных моделей – с запретами, сложными процедурами и неопределённой ответственностью. Решение, как показывает опыт других стран, будет зависеть не только от текста закона, но и от того, насколько прозрачен процесс его обсуждения и кто в нём участвует.

Ранее Exclusive.kz публиковал материал с представленной позицией учёных, бизнеса и руководителя управления госполитики комитета искусственного интеллекта при МЦРИАП РК «Казахстан намерен подчинить закону искусственный интеллект».

• 18
• 20