Искусственный интеллект сгенерировал фишинговые письма

Фишинговые письма в будущем могут создаваться с помощью ИИ и языковой модели. К такому выводу пришли ученые из Государственного технологического агентства Сингапура.

Для создания писем с вредоносными ссылками ученые использовали платформу OpenAI GPT-3 совместно с другими продуктами на базе ИИ. Ориентируются системы на анализ личности. Нейросеть получала на вход специфичные подробности для персонализации писем и выдавала «удивительно человеческий текст». Например, упоминала в письмах, таргетированных на сингапурцев, законы этой страны. Так создали конвейер, который обрабатывает и уточняет сообщения перед отправкой.

Исследователи отправили 200 целевых фишинговых писем по электронной почте, которые были созданы алгоритмом или людьми. Каждое сообщение содержало безопасные ссылки, собирающие информацию о кликах. В итоге эксперты выяснили, что конверсия с писем, написанных ИИ, оказалась выше, чем с обычных.

Среди выводов исследования выделили, что использование ИИ снизит входной барьер для мошенников и увеличит потенциальные цели для фишинга.

«ИИ как услуга будет стоить вам пару центов и им действительно легко пользоваться – просто вводите текст и получаете результат. Вам даже не нужно запускать код», — сказал специалист по кибербезопасности Государственного технологического агентства Юджин Лим.

Так любое электронное письмо с фишинговой ссылкой может быть персонализировано под каждого получателя. В ходе эксперимента сообщения создавались сотрудниками офиса, а не злоумышленниками, которые потенциально обладают большей информацией о жертвах.

Исследователи теперь будут изучать возможности и роль ИИ, которую она может сыграть в продвижении целевых фишинговых кампаний.

Подписывайтесь на наш Telegram-канал и читайте новости первыми!