Қазақстанда дипфейктерді автоматты түрде анықтайтын жүйе жасалуда
Қазақстанда дипфейктерді автоматты түрде анықтау технологиясын енгізу жоспарланып отыр. Бұл туралы Мәдениет және ақпарат вице-министрі Евгений Кочетов Мәжілісте өткен «Әлеуметтік салада жасанды интеллектіні қолдану» тақырыбындағы дөңгелек үстелде хабарлады.
«Біз жалған контентті автоматты түрде анықтап, дипфейктерді айқындайтын цифрлық бастама жасап жатырмыз. Бұл технология жасанды интеллектке негізделген және онлайн-есірткі саудасына қарсы күресте тиімділігін дәлелдеді. Мысалы, ИИ негізінде жұмыс істейтін арнайы “МЕРГЕН” жүйесі ақпараттық кеңістікті автоматты түрде бақылайды, интернет-дүкендерді тікелей және жанама белгілер бойынша анықтап, оларды бұғаттайды. Осы аптада 5000-шы осындай ресурс жабылды. Қазір біз LLM-моделін дипфейктерді анықтау функциясымен толықтыру үшін үйретіп жатырмыз», — деді Кочетов.
Журналистердің кездейсоқ бұғаттаулар қаупі туралы сұрағына вице-министр:
«Бағдарламаны біздің отандық бағдарламашылар әзірледі. Бұл технология қазірдің өзінде сәтті қолданылып жүр. Бірақ ол тек көмекші құрал: үлкен деректер ауқымында ықтимал триггер-нүктелерді анықтап, кейін құқықтық мониторинг өкілдері тексереді. Сондықтан кездейсоқ бұғаттаулар болмайды», — деп сендірді.
Оның айтуынша, жүйе мәтіндік жалған ақпаратты анықтауда жақсы нәтиже көрсетіп отыр, бірақ дипфейктермен жұмыс істеу үшін LLM-модельді қосымша үйрету қажет.
«Біз бұл бағытта жұмыс істеп жатырмыз. Бірнеше айдың ішінде алғашқы нәтижелерді көреміз деп ойлаймын. Бұл жылдам процесс емес, себебі үлкен көлемдегі контент қажет. Біздің министрліктің ақпараттық-цифрлық блогы уақытпен тең жүру, тіпті озық болу үшін осыған бағытталған. Егер оппоненттер күнделікті жаңа схемалар іздесе, біз сол схемаларды тоқтататын жаңа шешімдерді күнделікті іздейміз», — деді Кочетов.
Сондай-ақ ол жалған контентпен күрестің елеулі бөлігі азаматтардың өздерінің шағымдарына негізделетінін, бұл әдіс алаяқтық материалдарды анықтауға көмектесетінін атап өтті.