В Казахстане создают систему для автоматического выявления дипфейков
В Казахстане планируется внедрение технологии автоматического выявления дипфейков, сообщил вице-министр культуры и информации Евгений Кочетов на круглом столе в Мажилисе «Применение искусственного интеллекта в социальной сфере».
«Мы создаем цифровую инициативу по автоматическому выявлению фейкового контента и определению дипфейков. Эта технология основана на искусственном интеллекте и уже показывает эффективность в борьбе с онлайн-наркоторговлей. Так, специальная система „МЕРГЕН“, работающая на основе ИИ, автоматически мониторит информационное поле, выявляет интернет-магазины наркотиков по прямым и косвенным признакам и блокирует их. На этой неделе был закрыт 5000-й такой ресурс. Сейчас мы обучаем LLM-модель, чтобы включить в нее функции выявления дипфейков», — рассказал Кочетов.
Отвечая на вопрос журналиста о риске случайных блокировок, вице-министр подчеркнул, что такого не произойдет:
«Программа разработана нашими ребятами, отечественными программистами. Эта технология уже успешно применяется. Но эта программа – это лишь помощник. Она в большом массиве данных определяет возможные триггерные точки, на которые потом уже обращает внимание представители правового мониторинга. Поэтому случайных блокировок здесь не будет, это однозначно».
По его словам, система уже неплохо справляется с выявлением текстовых фейков, однако для работы с дипфейками LLM-модель нуждается в дополнительном обучении.
«Мы работаем над этим. Я думаю, ну не два года. Мы полноценно, скажем, поймем что-то в течение ближайших нескольких месяцев. Это процесс не быстрый, потому что это обучение. Нужно очень большое количество контента скормить. Это каждодневная работа. Наш информационно-цифровой блок в министерстве на это и направлен, чтобы как минимум идти в ногу со временем и где-то опережать. Поэтому будем стараться, будем догонять. Если наши оппоненты в ежедневном поиске новых схем, то мы в ежедневном поиске новых решений, которые позволят эти схемы купировать», — отметил Кочетов.
Вице-министр также добавил, что значительная часть борьбы с фейками строится на жалобах самих пользователей, которые помогают выявлять мошеннический контент.