ИИ упростил производство запрещенного детского контента

Ко Всемирному дню безопасного Интернета ЮНИСЕФ представил анализ влияния искусственного интеллекта на безопасность детей

В рамках Всемирного дня безопасного Интернета Детский фонд ООН (ЮНИСЕФ) выпустил новую аналитическую записку, посвященную вопросам защиты детей в эпоху стремительного развития генеративного искусственного интеллекта. В документе рассматривается, как современные технологии трансформируют цифровую среду и какие новые вызовы они создают для благополучия подрастающего поколения.

В аналитической записке «Искусственный интеллект и сексуальная эксплуатация и насилие над детьми» отмечается, что доступность инструментов на базе ИИ существенно изменила ландшафт цифровых рисков. Если раннее создание реалистичного контента требовало сложного оборудования и экспертных знаний, то сегодня модели с открытым исходным кодом позволяют генерировать поддельные и вредоносные изображения и видео на обычных смартфонах. Глобальные данные свидетельствуют о тревожной тенденции: более миллиона детей в ряде стран уже сообщили, что их изображения подвергались манипуляциям, что может нанести серьезный вред репутации и психологическому здоровью ребенка.

Исследование KazKidsOnline, проведенное в Казахстане, демонстрирует высокую степень вовлеченности детей в цифровую среду с раннего возраста. Согласно полученным данным, почти половина детей в стране впервые выходит в онлайн-пространство в возрасте от пяти до восьми лет. Значительная часть детей не сообщает никому, либо только сверстникам, о неблагоприятном опыте в интернете, что может препятствовать конструктивному разрешению рисков, с которыми сталкиваются дети в онлайн среде.

Эксперты ЮНИСЕФ подчеркивают, что даже безобидные фотографии, которыми дети делятся в социальных сетях, в условиях доступности генеративных технологий могут быть использованы для создания нежелательного контента. Важно понимать, что цифровое благополучие ребенка зависит не только от технических ограничений, но и от доверительного диалога в семье и школе.

Представитель ЮНИСЕФ в Казахстане доктор Рашед Мустафа Сарвар отметил:

«Интернет и цифровые технологии – это, в первую очередь, возможности для обучения и развития детей. Цифровой мир развивается с невероятной скоростью, и с появлением искусственного интеллекта границы между реальностью и вымыслом становятся все более размытыми. Мы не можем остановить прогресс, но мы обязаны сделать его безопасным для каждого ребенка. Это общая ответственность: родителей, педагогов, ИИ отрасли и всего общества — не только устанавливать разумные рамки, — но и быть рядом, повышать цифровую грамотность, объяснять новые риски и создавать доверительную среду, в которой дети не побоятся обратиться за помощью».

ЮНИСЕФ акцентирует внимание на том, что цифровое благополучие ребенка зависит от комплекса мер. Понимание принципов работы современных технологий поможет взрослым эффективнее поддерживать детей и формировать культуру безопасного поведения в сети, где инновации служат развитию, а не становятся инструментом эксплуатации.

Более подробно с аналитической запиской и рекомендациями экспертов можно ознакомиться по ссылке.