«Доверять не стоит ни государству, ни корпорациям»

Власти Казахстана принимают все больше законов, регулирующих интернет. Одним кажется, что эти меры необходимы, чтобы обеспечить безопасность в киберпространстве, бороться с фейками и буллингом. Другие считают, что под благими предлогами скрывается желание усилить цензуру, вычислять неугодных и в конце концов полностью взять под контроль интернет. Чем это может обернуться, казахстанцы уже узнали вовремя Кантара. Но действительно ли цель государства – закрутить потуже гайки? Есть ли в Казахстане проблемы с цифровыми правами? И как на цифровое развитие Казахстана влияют Россия и Китай? Об этом мы поговорили с Саркисом Дарбиняном, киберадвокатом, директором по развитию в Digital Rights Center Qazaqstan и сооснователем организации «Роскомсвобода».

– Ваша профессия – киберадвокат. В чем она заключается? Чем конкретно вы занимаетесь в Казахстане?

– Вообще, киберправо – это дисциплина, которая регулирует отношения в киберпространстве. Это могут быть отношения с государством, с сервисами или людей между собой. Поэтому наша задача – это соблюдение вот этого баланса общественного, государственного и частного в интернет-пространстве. Но основное – защищать права людей. Хотя сейчас мы уже понемногу приходим к тому, что начинаем задумываться и о правах машин, которые этим людям принадлежат.

Два года назад мы открыли юрфирму в Алматы, наш офис Digital Rights Center. Это юрфирма, которая занимается защитой прав в цифровом пространстве. В Казахстане мы также периодически проводим крупные мероприятия, связанные с регулированием интернета. Например, осенью будут два мероприятия, посвященные internet governance, то есть управлению интернетом в целом. Другое мероприятие – Privacy Day. Оно посвящено защите приватности, тайны частной жизни, особенно в ситуации автоматизированной обработки персональных данных.

Вот такой широкий спектр моей деятельности – вопросы, связанные с данными, с криптой, с информационными платформами, с искусственным интеллектом и с любыми иными отношениями, которые происходят в киберпространстве.

– Одна из актуальны проблем киберпространства – это широкое распространение фейков, языка ненависти, хейта. Часто это становится обратной стороной того, что интернет предполагает возможность свободно высказываться о чем угодно, кому угодно. В результате человек находится под шквалом самой разнообразной информации, где очень сложно отличить ложь от правды. Как найти баланс между двумя этими тенденциями – свободой самовыражения и вредным трэшем?

–Действительно, в интернете много как плохого и грязного, так и хорошего. Право на шифрование, на анонимность сегодня признаются международным правом новыми видами прав человека. Тем не менее и Европейский суд по правам человека, и Европейский суд справедливости принимают прецедентные решения, которые свидетельствуют, что эти права не являются абсолютными, они могут быть ограничены в интересах частных лиц, третьих лиц. Пример: человек анонимно пишет какие-то гадости, оскорбления и клевету про другого человека. Конечно, права этого пишущего охраняются, но платформа может раскрыть его данные при судебном запросе. Поэтому очень важно понимать, что не бывает абсолютного права, которое перекрывает все остальные. В каждом конкретном случае суд должен, по-хорошему, по набору критерия определять, где заканчивается право на свободу мнений, а где начинается право на тайну частной жизни. Особенно это актуально при защите людей по так называемому праву на забвение.

Право на забвение когда-то было придумано в Евросоюзе для того, чтобы человек мог иметь хоть какой-то контроль над информацией, которая распространяется о нем в интернете. Это значит, что вы можете написать запрос в поисковик и потребовать удаления ссылок из поисковой выдачи с вашим именем. Но делать это вы можете не всегда. Если, например, в конкретной публикации есть общественный интерес или информация о каком-то публичной персоне, селебрити, то, конечно, у общества есть абсолютное право требовать сохранения этой информации в сети. Поэтому информационные платформы иногда обладают вот такими странными полномочиями, которые в обычной жизни имеет суд, – понять, проверить, потом принять решение, действительно удовлетворять запрос об удалении информации или отказать.

– Казахстан зажат между двумя странами, которые стремятся создать у себя «суверенный интернет» – Россией и Китаем. Как этот факт влияет на регулирование интернет-пространства в Казахстане? На кого мы больше ориентируемся?

– Это очень важный вопрос. Два гиганта, две огромные страны с огромной мощью, Россия и Китай, последнее время демонстрируют экспорт не только репрессивных технологий – камер с распознаванием лиц; системы оперативно-розыскных мероприятий, СОРМ, которые ставят на узлы операторов связи; искусственный интеллект, который внедряется в госсистемы, чтобы выискивать крамолу, блокировать и привлекать людей к уголовной или административной ответственности, – но еще и репрессивное законодательство. Мы это видим по примеру Кыргызстана и Грузии, которые приняли закон об иностранных агентах, возможно, уже в ближайшее время появятся их расширение – закон о нежелательных организациях и так далее. Конечно, Казахстану очень тяжело выдержать под этим напором, когда две страны пытаются поделить рынок Центральной Азии и захватить контроль и над технологиями, и над сервисами.

С другой стороны, мы видим, что Казахстан хочет идти в сторону Европы, хочет иметь достаточно сбалансированное законодательство, во главе которого будет все-таки права человека, а не государство. Но это кажется, действительно, очень сложной задачей. Сейчас уже приняты несколько подобных ограничительных законов, которые пока еще в полную силу не начали работать. Один из них – это закон об онлайн-платформах, созданный по примеру российского «закона Яровой», который был принят семь лет назад и в свое время позволил блокировать Telegram. Этот закон обязывает платформы собирать достаточно обширный перечень данных. Там даже не указано, что конкретно должны собирать платформы, но мы видим, что это может быть сделано по аналогии с Россией, когда фактически любые ваши данные и деятельность в интернете будут собираться и анализироваться. Пока еще не совсем понятно, для какой цели это будет использоваться – это может быть как контроль поведения, так и, что самое страшное, изменение поведения. Когда человек знает, что за ним постоянно следят, то, конечно, он начинает скрываться, мимикрировать и вести себя под прессом вот этого постоянного надзора не так, как он вел бы себя обычно.

Нас, специалистов, также очень пугают технологии распознавания лиц, которые сейчас развертываются в городах. Здесь мы видим огромное присутствие китайских компаний, в том числе Hukuvision. Собранные биометрические данные улетают на китайские сервера, и что с ними делают, непонятно. Как показывает пример северного соседа, эту технологию можно использовать для контроля над людьми. Она фактически стирает грань между офлайном и онлайном – если раньше вы могли выключить телефон, выйти из дома и исчезнуть в городе, то теперь вы этого сделать не можете, потому что за вами системы следят постоянно.

Это не все, о чем сегодня стоит беспокоиться, потому что отрасль развивается и развиваются и другие общественные отношения – в сфере цифровых валют, заключения сделок в электронном виде, использовании ИИ. Сегодня, как мы видим, вопрос, как их регулировать уже обсуждается. Например, идет обсуждение, как должен выглядеть закон РК об искусственном интеллекте – должен ли он запрещать использование ИИ в определенных случаях, как в Европе, или пойти по китайскому пути, где фактически разрешено все, но контроль над всему алгоритмами, которые работают в стране, должен быть у государства.

– Раньше, чтобы быть невидимым для всех этих механизмов слежки, достаточно было просто не иметь аккаунта в соцсетях. Но сейчас у нас есть GPS и 2Gis, по которым можно понять как часто и куда мы ездим, банковские карты и так далее. Получается, сегодня нет возможности сохранить свою приватность?

– Если вы не хотите погружаться в средневековье, уходить из больших городов в леса, то, конечно, у вас нет фактически никакой возможности избежать этих систем. Вы будете использовать банкинг, вы будете использовать карты, вы будете использовать мессенджеры. Некоторые люди этого не делают. До сих пор ходят с небольшими кнопочными телефонами. Но у этих телефонов тоже есть проблемы. С одной стороны, они кажутся нам более безопасными, потому что там нет возможности установить приложения, которые будут собирать личные данные. Но, с другой стороны, они являются достаточно опасными, потому что на них вы не можете установить второй фактор аутентификации для паролей, вы не можете поставить туда какие-то системы защиты трафика, например VPN, который является бронебойной системой защиты от слежки. Получается, отказываясь от каких-то цифровых благ, вы отказываетесь и от возможностей защиты своей информации.

– Видите ли вы признаки того, что Россия или Китай контролируют наше киберпространство?

– Это действительно так. Регион настолько привлекательный, что сегодня и российские и китайские компании сюда с удовольствием заходят. И тем самым они берут контроль и отчасти над инфраструктурой, и над сервисами, которые здесь используются. Не секрет, что Россия стала объектом беспрецедентных атак за последние два года, потому что идет не просто война, идет еще и кибервойна. Естественно, за эти годы мы увидели, как огромное количество баз данных было взломано, и вместе с россиянами оттуда утекали и данные казахстанцев. Это касается таких сервисов как Яндекс.Еда, Сдек и так далее.

Отсюда возникает вопрос к безопасности этих систем. И, конечно, вопрос независимости этих систем от центрального игрока, который может их по-разному настраивать и эксплуатировать, а также вопрос уязвимости, которые в этих системах происходят. Поэтому, естественно, эта проблема есть. Ее пытаются по-всякому решить, но, учитывая, что иногда нет возможности приобретать необходимый софт, приходится брать то, что есть на рынке. А это в основном российские и китайские разработчики, и в более дорогом диапазоне есть американские разработчики, которых не все могут позволить.

Мы разговаривали с экспертами из разных областей и не раз слышали, что и в фармацевтике используется российское программное обеспечение, и в нефтегазовом секторе, в энергетике, даже в таможне. Почему так происходит? Дело в том, что у Казахстана действительно нет своих сильных программистов? Или это какой-то план, условно говоря, по захвату нашего киберпространства?

Дорогой софт требует многих лет и огромной команды и бюджета для разработок. И несмотря на то, что в Казахстане происходят вложения в отечественные software компании, это началось не так давно, и, конечно, развитие требует времени. Компания Google не родилась за один день, это потребовало десятки лет разработок и привлечения лучших умов в мире. Сейчас, на мой взгляд, идет хорошая тенденция – Казахстан дает отличные условия для программистов, которые, с удовольствием работают и добиваются хороших результатов, приезжают специалисты и из соседних стран.

Для безопасности страны, конечно, лучше использовать собственные сервисы. Но не всегда это возможно. Плюс нельзя сказать, что иностранный сервис или софт, априори является опасным. Есть софт с открытым программным кодом и с закрытым. Последний невозможно проверить, потому что неизвестно, что там внутри. Если это крупный разработчик, то вы, скорее всего, рассчитываете на его репутацию. Но есть еще и открытый софт, который является достаточно безопасным, потому что фактически любой может его проверить и посмотреть, нет ли там закладок и каких-то уязвимостей. И сегодня многие софты собираются компонентно – могут присутствовать и части каких-то открытых лицензий, а дальше могут быть надстройки и доработки либо собственными силами, либо за счет приобретенного у третьих лиц закрытого софта. Поэтому эта сложная история нельзя сказать однозначно, что все иностранное плохо.

В Казахстане большая проблема – это доступ к интернету. Особенно в отдаленных аулах. Кроме того, во время Кантара мы увидели, что государство может просто на неделю отключить интернет. Сейчас мы видим, что такая практика применяется локально – в тех местах, где проходит митинг, блокируется интернет. Что с этим делать?

– Это серьезная проблема и без ее решения сложно говорить о защите прав человека в цифровом пространстве. И в Казахстане действительно нет гарантированного конституцией права на интернет, как, например, в Финляндии. Причем финляндская конституция не просто гарантирует право на доступ к интернет, а еще и то, что каждый фильм должен получать интернет на скорости не менее 10 мегабит в секунду. То есть это еще и качество интернета, которое государство пытается поднять.

В Казахстане есть только право на доступ к информации. При этом есть, как мы уже знаем, закон о чрезвычайном положении, который позволяет президенту в принципе в любой момент объявить ЧП и выключить интернет. Во время Кантара, на мой взгляд, были очень серьезно нарушены права граждан с точки зрения необеспечения доступа, и это происходило на фоне полного отсутствия законодательного регулирования этой отрасли.

Сейчас мы совместно с Евразийским цифровым фондом и коалицией правозащитных организаций обратились в суд для того, чтобы определить пределы шатдауна. Именно так мы это называем. Интернет-шатдаун с точки зрения цифровых прав может, по сути, быть приравнен к цифровому геноциду. Ущерб экономики исчисляется в миллиардах, не говоря уже о том, что это привело к лишению жизни многих людей, которые не знали, что вообще происходит на улице, безопасно ли выходить, как снять деньги, как связаться с родными. И мне кажется, здесь естественно закон требует уточнения. На наш взгляд, это правильная задача для Конституционного суда, который начал работать с прошлого года, для того чтобы определить, насколько положения законы о ЧП вообще соответствуют положениям конституции, которая вроде как обеспечивает каждому право на свободный доступ к информации.

Этот вопрос надо решать принципиально, и мы надеемся на позицию высших судебных органов, к которым мы понемногу приближаемся.

Недавно только прошли процессы – первая инстанция отказала нам в иске к операторам связи. Ну, мы этого ожидали, для нас это решение открывает путь уже в Комитет по правам человека, Организацию Объединенных Наций, Конституционный суд республики, в котором мы надеемся поставить точку в этом вопросе.

Как так получилось, что интернет – очень либеральное изобретение – государству удалось монополизировать? И как в мире решается это противоречие между правом на доступ к информации и контролем за интернетом со стороны государства? Наверное, в Европе никому в голову не придет глушить интернет во время митинга.  

– Интернет появился когда-то как военная разработка. Его задача была одна: сделать так, чтобы во время атомного или ядерного удара связь не пропала. И в принципе эту задачу достигли. Даже если в одной части земного шара сейчас упадет бомба, интернет будет работать, потому что он не связан ни с одной конкретной страной. Но со временем интернет начал развиваться во многом благодаря частным инициативам. Это программисты, частные компании и прежде всего пользователи, которые и сделали так называемый user-generated content. То есть вот это наполнение соцсетей, которые мы видим от Инстаграма до Фейсбука.

Государство обратило внимание на интернет после арабской весны. Когда стало понятно, что интернет обладает той мощной силой, которая может объединять людей, направлять людей и давать какие-то новые идеи и даже идеологии. С точки зрения регулирования, сегодня мир очевидно поделился на две части. Это произошло на самом деле не так давно. Это произошло во время Международного союза электросвязи в 2012 году, который потянул на себя регулирования интернета. И там, собственно, встал основной вопрос: «А как регулировать сеть?». Одни государства, к которыми относятся страны Западной Европы, Латинской Америки и США, стояли на том, что интернет должен регулироваться, исходя из мультистейкхолдерного подхода. Это значит, что в интернете есть три основные стейкхолдера, заинтересованных лица – гражданское общество в виде неправительственных и некоммерческих организаций; бизнес в виде коммерческих организаций; и само государство. И правильное регулирование образуется тогда, когда эти стейкхолдеры договариваются о каких-то совместных правилах игры.

Другая часть мира эту идею не поддержала и решила, что государство должно обладать суверенным правом определения границ возможного в интернете. Поэтому сегодня мы видим, что страны, вроде России и Китая, не хотят отдавать даже часть возможности по регулированию интернета гражданскому обществу. И это большая беда.

В Казахстане, мне кажется, еще есть возможность обсуждать с государством и бизнесом какие-то отдельные вопросы. В прошлом году мы провели Internet Governance Forum. Это основная площадка, которая была создана под эгидой Организации Объединенных Наций для обсуждения вопросов регулирования и новых вызовов в интернете. В этом году она пройдет осенью в октябре, тоже в Алматы. Это площадка открыта для всех желающих, туда может прийти и предстоятель бизнес, и любой человек – подать какую-то идею, принять участие в дискуссии. Потом это уже превращается в какие-то рекомендации, которые мы направляем заинтересованным лицам, принимающим те или иные решения или те или иные законы. С моей точки зрения, это является единственно правильный путь регулирования интернета.

Несмотря на то, что мы уже привыкли к тому, что интернет – это общественное пространство, до сих пор нет ни одного международного договора и соглашения по интернету, как, например, в области космического или морского права. И казалось, что интернет должен также регулироваться чем-то похожим – международной конвенцией по интернету. Но учитывая вот этот раскол в мире, такой конвенции не произошло, и поэтому сегодня для интернета есть набор правил. Одна часть из них – это частные корпоративные правила и правила протоколов использования сети. Вторая – это международные стандарты. И третья – это уже национальные стандарты, которые иногда противоречат международным, а иногда просто в дополнение указывают, как должны регулироваться те или иные сферы жизни, например защита данных.

Как найти баланс между разными интересами? У государства, общества и бизнеса они абсолютно разные: государство хочет контролировать, как всегда, бизнес хочет продавать, общество хочет иметь доступ к разнообразному контенту.

– Сегодня в некоторых странах уже происходят процессы, которые ослабляют власть гигантов бигтеха, таких как Google и Apple. Apple сейчас находится в очень не сладком положении. С одной стороны, Япония, а с другой стороны, Европейский Союз приняли нормы, которые обязывают Apple открыть доступ к магазину приложений для сторонних разработчиков, как это происходит в Google Play. Для них Apple, конечно, это очень больной вопрос, потому что компания 30 лет развивалась так, что фактически монопольно владела своим магазином и всеми своими сервисами. И получала 30% от каждой продажи любого софта, любых дополнительных возможностей в App Store. И сегодня эту власть фактически разрушают, разрушают прежде всего под напором гражданского общества, самих разработчиков и пользователей, которым не нравится то, что Apple контролирует эти магазины. Этот баланс, конечно, надо искать и прежде всего в рамках диалога. Но диалог иногда складывается либо за закрытыми дверями, либо не складывается вообще.

Плюс я думаю, что большая проблема в отсутствии специалистов, в том числе в киберправе. Сегодня мы видим, что такого образования почти никто не дает. Мы вместе с Университетом Нарикбаева недавно запустили школу киберправа для юристов, которые хотят больше понимать в международном и национальном регулировании интернета. И если сегодня государство не вкладывается в это, то, по крайней мере, частные инициативы должны работать над тем, чтобы появилось больше специалистов в сфере киберправа. Без этих специалистов не будет качественного профессионального диалога по поводу того, как эти технологии действительно можно использовать, контролировать и как они будут применяться завтра.

Тот же вопрос регулирования искусственного интеллекта далеко не праздный, он до чертиков пугает всех, потому что создает возможности для злоупотребления. Кроме того, эти технологии перечеркивают предыдущие институты, такие, например, как институт авторского права, институт частной жизни, потому что они пожирают данные людей без остановки, и фактически сегодня эти системы никто не может остановить. А дальше возникает вопрос, кто будет использовать эти системы. Очевидно, сегодня властью обладают те, кто обладают данными миллионов пользователей. И, конечно, империя Facebook, империя компании Meta, намного сильнее, чем даже империи государств, которые пытаются этот интернет контролировать.

В Казахстане государство даже не скрывает своего желания контролировать весь интернет. И в монополии Казахтелекома власти проблемы не видят. Скажите, пожалуйста, оправдана ли государственная монополия на рубильник и насколько она опасна?

– С моей точки зрения, абсолютно неоправданна, и, конечно, абсолютно не нужна. С одной стороны, монополия позволяет злоупотреблять властью. И в отсутствии конкуренции одна компания может принять самостоятельно или с помощью госорганов решения отключить, либо сузить трафик, либо ограничить доступ к каким-то конкретным сервисам. И с другой стороны, это, конечно, мешает рыночному развитию услуг связи. То есть связь становится дорогой, она становится неконкурентной. И с точки зрения контроля информационного пространства, мне кажется, у государства никогда не было этого рубильника, и нехорошо было бы делать так, чтобы этот рубильник появился.

Сегодня мы понимаем, что власть может обязать отключить услуги связи. Но тем не менее, даже при самом жестком шатдауне мы видели, что полностью отключить связь не получается. Все-таки есть множество различных сервисов, которые защищают людей от подобного: VPN-сервисы, Proxy-сервисы, специальный софт, который позволяет соединяться телефонами даже в отсутствии интернета, с помощью других протоколов.

Государство всегда говорит, что ему нужно контролировать ситуацию, чтобы не допустить, чтобы какие-либо частные компании, в нашем случае даже олигархические, воспользовались ей в целях дестабилизации власти. Вы принимаете этот аргумент – что государству нужно больше доверять, чем частным компаниям, потому что оно заботится о нашей безопасности?

– Если честно, нет. Может быть, и можно было бы доверять, если бы мы жили в действительно демократическом обществе, где все решения принимаются открыто, прозрачно и в рамках общественного обсуждения. Но это же не всегда происходит. Там же много собственных частных, лоббируемых гигантами интересов, которые хотят получить доступ к технологиям либо конкретным отраслям рынка. Поэтому доверять не стоит, наверное, никому, кроме себя, – ни корпорациям, ни государству.

Рынок сам по себе может решать многие проблемы, но какое-то государственное регулирование все равно необходимо. Главное, оно должно быть взвешенным. Как, например, происходил процесс принятия закона об искусственном интеллекте в Европе? Перед принятием закон обсуждался со всеми общественными организациями, со всеми членами ЕС, с экспертными группами. И эти консультации проходили несколько лет перед тем, как представить драфт уже согласованного закона. Поэтому в данном случае не надо никакой спешки. Напротив, в таких ключевых сферах нужна очень длительная, последовательная работа для того, чтобы потом не создать условия, при которых что-то не будет работать, либо будут какие-то перегибы, которые позволят корпорациям, либо пользователям использовать во вред третьих лиц.

Я думаю, это возможно, и мы видим, что по многим законам государство в Казахстане сейчас прислушивается к критике. Например, изначальный законопроект по искусному интеллекту в результате голосования был снят, и мы вместе с другими экспертами участвуем в проработке этого нового закона, который может появиться к осени этого года либо к зиме 2025.

• 39
• 28