Ментальное здоровье подростков и ИИ: пора бить тревогу

Как использовать икусственный интеллект, чтобы он не стал угрозой, а ребенок-инвалид имел доступ к качественному и инклюзивному образованию? Об этом рассказал Представитель ЮНИСЕФ в Казахстане Доктор Рашед Мустафа Сарвар.

– Казахстан – 13 страна, где я работаю, поэтому я неплохо ориентируюсь в проблемах ваших детей и подростков. В частности, в Казахстане много вопросов в области искусственного интеллекта, цифровизации и кибербезопасности. По этим вопросам мы работаем с вашим правительством на самом высоком уровне. Поддерживаем тесные отношения со СМИ, потому что без вас нам трудно продвинуть какие-либо инициативы в интересах молодежи и детей.

К слову, кибербезопасность – та работа, которую мы ведем вот уже 20 лет во всем мире. Тем не менее, киберпространство по-прежнему небезопасно для детей. Совместно с министерством образования РК мы провели исследования «Дети Казахстана онлайн». Оно показало, что каждый пятый ребенок делится своими фотографиями с незнакомыми людьми, порядка 11 процентов несовершеннолетних девушек ходят на свидание с незнакомыми мужчинами, при этом, не делясь об этом ни с родителями, ни с подругами. Ментальное здоровье казахстанских подростков также вызывает большую тревогу.

В Казахстане почти каждый второй ребенок впервые выходит в интернет в возрасте 5–8 лет, а 92% детей используют смартфон для выхода в интернет ежедневно или несколько раз в день. При этом, 60% детей ежедневно используют интернет для учебы. 60% детей 9–10 лет и 66% детей 11–12 лет уже имеют собственные аккаунты в социальных сетях и на игровых платформах, несмотря на возрастные ограничения большинства сервисов.

– Современные дети осваивают интернет лучше, чем их родители. В чем риски?

– По данным ЮНИСЕФ из 10 стран, не менее 20 миллионов детей уже используют искусственный интеллект. Поэтомуцифровую грамотность и безопасность нужно начинать обсуждать уже в начальной школе, а не в подростковом возрасте. Одновременно цифровая среда создает новые риски – от кибербуллинга, онлайн-груминга и мошенничества до дипфейков и сексуальной эксплуатации детей. Генеративный ИИ может использоваться для создания реалистичных изображений сексуального насилия над детьми и интимных изображений несовершеннолетних без их согласия, создавая новые вызовы для защиты детей. Искусственный интеллект может запросто использовать изображение чьего-то лица, дорисовав ему чужое обнаженное тело. Это часто используется для буллинга, унижения достоинства среди детей и подростков. Искусственный интеллект также легко может зайти на ваш аккаунт, и использовать вашу личную информацию вам во вред. В связи с этим в мире известны случаи самоубийства среди детей.

Internet Watch Foundation всего за один месяц на одном форумевыявил 14 000 изображений сексуального насилия над детьми, созданных с помощью ИИ. Согласно данным компании Hope, которая провела исследования в разных странах, один из 10 подростков знает случаи создания интимных изображений сверстников с помощью генеративного ИИ без их согласия.

Только в Южной Корее с 2022 по 2024 годыв десять раз выросло числопреступлений с использованием ИИ-дипфейков. От 9% до 21% детей сталкивались с различными формами кибербуллинга или были его свидетелями.

Примечательно, что каждый четвертый ребенок, которого что-то расстроило в интернете, никому об этом не рассказал. 7% регулярно сталкиваются с сексуализированным контентом, 3% предлагали деньги за интимные фотографии, 2% подвергались сексуальному шантажу.

– Возможно, в целях безопасности, разумно вводить какие-то ограничения в области использования ИИ?

– Искусственный интеллект – не вопрос будущего. Это вопрос сегодняшнего дня. Мы не должны выбирать между инновациями и безопасностью детей. Наша задача – обеспечить и то, и другое. Детям нужны не только ограничения, но, прежде всего, цифровая грамотность, критическое мышление и навыки безопасного использования технологий. При ответственном использовании ИИ способен расширять доступ к знаниям и поддерживать персонализированное обучение, в том числе для детей с особыми образовательными потребностями. Ответственность за цифровую безопасность детей также лежит не на одной стороне – она объединяет государство, школы, технологические компании, родителей и общество.

– Какие конкретные шаги предпринимает ЮНИСЕФ в области кибербезопасности?

– Сейчас мы осуществляем проект в Астане, Алматы, Шымкенте, Жамбыле и Туркестане. До конца этого года мы намерены связаться со 150 тысячью подростками, говорить с ними о кибербезопасности и интернет здоровье. Мы проведем обучающие курсы для 46 тысяч педагогов и психологов школ, которые обновят их знания, как работать с детьми в школах. Один из главных элементов нашей работы – родители. Если они не будут знать, чем занимаются их дети, не дружат ними, не имеют представления, чем они занимаются в интернете, проблему кибербезопасности не решить.

Недавно мы провели переговоры с Европолом (Европейской полицией), МВД, ОБСЕ. Обсудили, как европейские законы защищают детей от ИИ и как мы могли бы использовать этот опыт. Одна из важных ролей ЮНИСЕФ – роль фасилитатора. Мы приглашаем представителей разных ведомств для обсуждения волнующих вопросов на одной или нескольких площадках. Так, в прошлом году это были представители министерств здравоохранения, образования, социальной защиты. Они разработали совместный рабочий план. В сентябре пригласим очень крутого специалиста искусственного интеллекта из Оксфорда для профильных министерств. Хотим составить картину, как в Казахстане ближайшие 10 лет будет развиваться искусственный интеллект и как мы можем защищать от него детей.

– Есть ли у вас эффективный опыт защиты от негативного влияния ИИ на детей?

– ИИ – продукт для всех совершенно новый. Чтобы иметь положительный опыт в том или ином направлении нужно время. Мы работаем в 190 странах мира. Я не могу сказать, что у всех есть конкретные подвижки в этом направлении – есть свои социальные политические географические нюансы. Задача ЮНИСЕФ – поднять проблему. Как я уже говорил, мы провели социальные исследования, как дети в Казахстане пользуются интернетом. Эта статистика была представлена правительству РК и, как мы надеемся, повлияет на политические решения. Совместно с МВД ЮНИСЕФ вот уже как два года проводит общий проект. Мы сотрудничаем с Киберполом и Европолом. Проводим для них тренинги, как выявлять преступления, связанные с использованием ИИ и как на них реагировать. К сожалению, в Казахстане существуют не все пенитенциарные процедуры в связи с этим. По ИИ ЮНИСЕФ на глобальном уровне выпустил несколько политических руководств, как государства и правительства по всему миру должны реагировать на интернет. Также там говорится о том, как добиться его этичного использования, договариваясь с крупными разработчиками, чтобы они на начальном уровне разработки учитывали этические стандарты. Те же Тик-Ток, Мета сейчас усиливают контроль, в каком возрасте ребенок может открывать аккаунт. Они дополнительно устраивают проверки возраста по контенту, который смотрит человек, где-то требуют родительского согласия. Также производится мониторинг аккаунта, чтобы выяснить детский он или взрослый. ЮНИСЕФ старается работать как с правительством, так и с технологическими гигантами, чтобы задавать стандарты. Но в конечном итоге решения принимают государственные органы. ЮНИСЕФ может только рекомендовать, обучать, помогать.

Прогресс в области контроля ИИ сегодня есть в Европейском Союзе, Америке, Южной Корее, которые приняли наши рекомендации. Там также активно проводится обучение государственных служащих, как выявлять случаи негативного использования ИИ и как на это реагировать.

– На первый взгляд, искусственный интеллект и инклюзивное образование – две разные темы. Что их объединяет?

– Это то, как в быстро меняющемся мире обеспечить права каждого ребенка. Сегодня в Казахстане зарегистрированы 137 434 ребенка с инвалидностью.Скажите, сколько из этих детей вы видите на улицах Алматы и других городов Казахстана? Если они не видимы, это не значит, что их не существует. У них есть права. Инвалидность – это не диагноз, а состояние. Эти дети тоже хотят видеть красоту природы, чувствовать вкус жизни.

Казахстан уже создал важную основу для развития инклюзивного образования. Часто в стране фокус делается на инфраструктуре. Но следующий шаг – перейти от показателей охвата к качеству и реальному участию детей. Для нас важно, чтобы равные возможности у детей были во всех направлениях. Инклюзия не должна ограничиваться только средним образованием. Она начинаться задолго до первого звонка. По данным MICS Kazakhstan 2024, в программы раннего обучения вовлечены 68,7% детей в возрасте 36–59 месяцев, при этом в сельской местности показатель ниже, чем в городах – 64,1% против 71,7%. Мы хотим сделать приоритетом дошкольное воспитание. При этом учитель или воспитатель, который работает в сфере инклюзии, должен тоже получать поддержку в области методического сопровождения, чтобы ему были доступны учебные материалы, цифровые технологии, тот же позитивно применяемый ИИ. Минздрав РК и ЮНИСЕФ пришли к выводу, что нужно укрепить систему по раннему развитию детей, а также ранней диагностике и ранней реабилитации и, соответственно, раннему лечению. Мы проводим эту работу с прошлого года.

Но и, конечно, важно партнерство с родителями. Нам нужны такие мамы, учителя, реабилитологи, которые были бы примером для других.

– Сегодня только 38% из зарегистрированных детей с инвалидностью в Казахстане обучаются в системе среднего образования.

– Цифры, мягко говоря, не впечатляют. Но в то же время Для ЮНИСЕФ важно оценивать инклюзию не только по тому, есть ли у ребенка место в школе, но и по тому, получает ли он необходимую поддержку, участвует ли в школьной жизни и чувствует ли себя частью сообщества.

В области инклюзивного образования нужно внедрять совместное обучение детей с инвалидности вместе с другими детьми. В школе важны не только образовательные навыки, но и развитие моральных человеческих ценностей. Исследования показывают: если в классе есть дети с ограниченными возможностями, другие дети становятся намного толерантнее, общительнее и заботливей. Это в дальнейшем помогает им в работе, личной жизни.

– Какие ближайшие мероприятия в области поддержки инклюзивного образования вы планируете в нашей стране?

– ЮНИСЕФ планирует внедрить современные практики адаптивной физической активности в 2 000 дошкольных организаций, охватив около 164 000 детей. Также хотим оснастить 10 пилотных детских садов ассистивными технологиями и обучить около 10 000 воспитателей.

Главная наша задача – сделать так, чтобы любые изменения – технологические, образовательные или социальные – работали в интересах каждого ребенка. 2 октября в Актау UNICEF пройдет Caspian Ball. Собранные средства будут направлены на развитие инклюзивного дошкольного образования и социальной инклюзии детей с инвалидностью в Западном Казахстане.

Иллюстрация на обложке сгенерирована с помощью ИИ