Как киберпреступники используют ИИ и машинное обучение

ИИ позволяет улучшить эффективность и уровень автоматизации и автономности. Вместе с машинным обучением (ML) предприятия, организации и правительства способны стимулировать инновации и улучшать бизнес.

ИИ и машинное обучение широко используются в бизнесе. Фактически, 37% предприятий и организаций уже интегрировали ИИ в свои системы и процессы в 2020 году. С помощью них предприятия могут прогнозировать покупательское поведение клиентов и увеличивать доходы. 

Хотя ИИ и машинное обучение могут поддерживать предприятия, критически важные инфраструктуры и отрасли, помогать решать некоторые из самых серьезных проблем общества, в том числе пандемию Covid-19, эти технологии так же могут способствовать появлению цифровых, физических и политических угроз. Чтобы предприятия и отдельные пользователи оставались защищенными от злоумышленников, необходимо выявлять и понимать риски и потенциально опасные действия систем ИИ.

Дипфейки

Дипфейки используют для создания или манипулирования аудио и визуальным контентом, чтобы он выглядел аутентичным. Они идеально подходят для использования их в будущих кампаниях по дезинформации пользователей, поскольку их сложно сразу отличить от легитимного контента даже с использованием технологических решений. 

Людям необходимо понимать, насколько реалистичными бывают дипфейки и как можно использовать их злонамеренно.

Подбор пароля с поддержкой искусственного интеллекта

Киберпреступники используют машинное обучение для улучшения алгоритмов подбора паролей.  Используя нейронные сети и генерирующие состязательные сети (GAN), они могут анализировать обширные наборы данных и генерировать разные варианты паролей. В будущем это приведет к более точному и целевому подбору паролей.

В подпольном сообщении на форуме в феврале 2020 года Trend Micro обнаружили репозиторий GitHub, в котором есть инструмент анализа паролей с возможностью парсить 1,4 миллиарда учетных данных и генерировать правила изменения пароля.

Имитация действий человека на просторах Сети

Киберпреступники злоупотребляют ИИ для имитации человеческого поведения. Например, они могут успешно обмануть системы обнаружения ботов на платформах социальных сетей, таких как Spotify, имитируя человеческие шаблоны поведения в интернете. С помощью этого киберпреступники могут монетизировать вредоносную систему для создания мошеннических потоков и трафика.

Взлом с помощью ИИ

Мошенники используют инфраструктуры ИИ для взлома уязвимых хостов. Например, Trend Micro видели пользователя Torum, который проявил интерес к использованию DeepExploit, инструмента для тестирования на проникновение с поддержкой машинного обучения. Кроме того, тот же пользователь хотел знать, как они могут позволить DeepExploit взаимодействовать с Metasploit, платформой тестирования на проникновение для задач сбора информации, создания и тестирования эксплойтов.

Злоупотребления ИИ и машинного обучения в будущем

По мнению Trend Micro, в будущем преступники будут использовать ИИ различными способами. Они будут использовать ИИ для увеличения объема и масштаба своих атак, уклонения от их обнаружения, а также преследования организаций с помощью тактики социальной инженерии. 

Используя ИИ, киберпреступники могут автоматизировать первые шаги атаки путем создания контента, улучшить сбор бизнес-аналитики и повысить скорость обнаружения, с которой компрометируются как потенциальные жертвы, так и бизнес-процессы. Для атаки предприятий будут использоваться фишинг и мошенничество с компрометацией корпоративной электронной почты (BEC).

ИИ также можно использовать для манипулирования практикой торговли криптовалютой. Помимо этого, ИИ может использоваться для нанесения вреда или физического ущерба людям в будущем. В настоящее время разрабатываются дроны с распознаванием лиц на базе ИИ, в которых имеется грамм взрывчатого вещества. 

Эти беспилотные летательные аппараты, которые внешне выглядят незаметно, напоминают маленьких птиц или насекомых, могут использоваться для бомбардировок с использованием микроцелей или одного человека и могут управляться через мобильный интернет.

Технологии искусственного интеллекта и машинного обучения имеют много положительных вариантов использования, включая визуальное восприятие, распознавание речи, языковые переводы, извлечение шаблонов и функции принятия решений в различных областях и отраслях. Однако эти технологии так же используются в преступных и злонамеренных целях. Вот почему важно иметь представление о возможностях и опасности ИИ. Зная все аспекты, мы можем лучше подготовиться к защите систем, устройств и населения от масштабных кибератак.