Facebook создала ИИ для распознавания дипфейков
В Facebook AI в сотрудничестве с исследователями из Университета штата Мичиган (MSU) разработали метод обнаружения дипфейков, который основан на реверс-инжиниринге фейкового изображения, а также самой системы, использованной для его создания. Такой метод поддержит усилия по обнаружению и отслеживанию дипфейков в «реальных» условиях, когда нельзя обнаружить исходник.
На сегодня дипфейки для Facebook дипфейки не являются большой проблемой, но компания хочет защититься от потенциальных угроз в будущем.
Программа полезна тем, что в перспективе сможет помочь Facebook отслеживать злоумышленников, распространяющих дипфейки с различными преступными целями. Например, пользователей могут шантажировать с помощью поддельных фото или видео. Сама разработка еще не завершена, но подходит для практического применения.
Как это работает? Она позволяет определять архитектурные особенности систем для создания дипфейков, основанные на неизвестных моделях. Эти характеристики, известные как гиперпараметры, присутствуют в каждой модели машинного обучения. В совокупности они создают уникальный отпечаток на готовом изображении, который затем можно использовать для определения источника дипфейка.
«Предположим, злоумышленник создаёт множество разных дипфейков и загружает их на разные платформы под видом разных пользователей. Если для создания дипфейков применялась новая модель ИИ, которую никто раньше не видел, то выяснить все детали, связанные с созданием изображения будет невозможно. С новой технологией мы можем определить, что загруженное на разные платформы изображение было создано одной и той же моделью машинного обучения. А получив доступ к ПК, на котором это изображение было создано, мы сможем уверенно указать на виновника», — объяснил Хасснер.
Также система может сравнивать и прослеживать сходство между сериями дипфейков, что должно помочь модераторам социальных сетей лучше отслеживать скоординированные кампании дезинформации.
Подписывайтесь на наш Telegram-канал и читайте новости первыми!