Как найти баланс между преимуществами и рисками AI-сервисов?

AI-сервисы, такие как ChatGPT и Google Bard, привлекают к себе много внимания специалистов в самых разных областях. Искусственный интеллект помогает облегчить выполнение задач и повысить производительность работы.

Но эту технологию используют, в том числе и профи киберпреступники, а значит LLM (Large Language Model) и AI-сервисы несут также высокие риски для бизнеса. Недавние инциденты, связанные с ChatGPT, тому подтверждение.

Безопасность использования AI-сервисов — критическая проблема, так как их уязвимости могут привести к компрометации конфиденциальных данных любой организации. Как тогда уменьшить риск утечки информации?

Защитить критические данные на уровне конечных точек и сети можно с помощью проактивных методов, например DLP-решений. Кроме того, важно информировать сотрудников о рисках и последствиях использования AI-сервисов. Комплексный подход к проблеме поможет уменьшить потенциальные угрозы и повысить безопасность конфиденциальных данных.

Защита данных с решениями Trellix

Инновации зачастую подсвечивают уязвимости в системе безопасности. В результате компания может потерпеть финансовые и репутационные убытки даже из-за случайных нарушений. Вот лишь несколько примеров того, как пользователи могут неожиданно спровоцировать утечку конфиденциальных данных, используя AI-сервисы:

• Сотрудник может попросить ChatGPT резюмировать заметки, сделанные во время совещания, на котором обсуждался новый продукт.
• Разработчик может использовать сервис, чтобы попросить рекомендации для улучшения исходного кода.
• Инженер может попросить ChatGPT сделать анализ лог-файлов и отчет по ним, оставив в нем имена пользователей, IP-адреса и т. д.

Поэтому меры безопасности должны развиваться параллельно с новыми технологиями. Решения Trellix обеспечивают эффективную защиту информации, опираясь на многолетний опыт в сфере кибербезопасности. Trellix DLP мониторит сеть и конечные точки организации, что позволяет комплексно защищать данные организации от умышленных и случайных нарушений безопасности.

Преимущества Trellix Data Loss Prevention

Trellix DLP можно быстро установить в любой среде благодаря готовым наборам правил. Шаблоны удовлетворяют базовые потребности и предоставляют рекомендации для защиты данных в вашей среде.

Также вы можете настроить уникальные правила самостоятельно, чтобы обеспечить защиту конфиденциальных данных во время использования ChatGPT, Google Bard и других похожих сервисов. В таком случае можно применить три типа DLP-правил:

• Clipboard Protection: мониторинг или блокировка буфера обмена, чтобы пользователь не смог копировать критические данные
• Web Protection: мониторинг информации, которая попадает на веб-сайты
• Application Control: мониторинг или блокировка доступа пользователей к веб-сайтам

До того, как вы настроите любое из правил, нужно прописать определения, которые будут в них использоваться. Для целей данной статьи возьмем следующие примеры:

• URL List — используется для определения правил веб-защиты и критериев классификации цифрового отпечатка веб-контента. Они добавляются в правила и классификации как условия веб-адреса (URL).
• Application Template — управляет определенными программами, используя такие свойства, как название продукта или поставщика, имя исполняемого файла или заголовок окна. Шаблон приложения можно определить для одной программы или группы подобных приложений. Для популярных веб-браузеров, почтовых клиентов, Windows Explorer и других программ существуют готовые шаблоны определений.

Для того, чтобы создать эти определения, переходим в DLP Policy Manager> Definitions через консоль Trellix ePolicy Orchestrator (ePO).

Список URL-адресов

Создаем новый список через раздел Source / Destination в категории URL List. Для текущего примера это будут следующие адреса:

А также любые другие LLM, которые вы хотели бы добавить.

Source Application

Создаем новый список приложений через раздел Source / Destination в категории Application Template. Для примера используем:

• Visual Studio — devenv.exe
• Visual Studio Code — Code.exe

Теперь можно перейти к созданию самих правил и их тщательному тестированию в вашей среде.

Примеры создания правил

Для создания набора правил нужно открыть диспетчер DLP Policy Manager и создать новый набор правил, отвечающий вашим требованиям, под названием "Мониторинг и блокирование GPT". Далее предлагаем несколько примеров для решения конкретных задач:

Отчет о пользователях, которые используют конфиденциальные данные в запросах к ChatGPT и подобным сервисам

1. Перейдите в меню Data Protection> Actions> New Rule> Web Protection, чтобы создать новое правило

2. Условия:

• a. Enforced On: Windows and Network DLP (В Mac OS допустима только отчетность)
• b. Classification: Укажите, для какого рода контента нужно заблокировать доступ к URL-адресу
• c. End-User: ALL
• d. Web Address (URL): Выберите GPT URL List, который мы создали на предыдущем шаге
• e. Upload Type: ALL

Отчет о пользователях, которые копируют конфиденциальные данные в ChatGPT и другие LLM, или блокирование данных

1. Перейдите в меню Data Protection> Actions> New Rule> Clipboard Protection, чтобы создать правило для защиты буфера обмена

2. Условия:

• a. Enforced On: Windows (В Mac OS допустима только отчетность)
• b. Classification: Укажите для какого контента нужно заблокировать доступ к URL-адресам
• c. End-User: ALL
• d. Source Application: ALL
• e. Destination Application: Supported Browsers
• f. Destination URL: Укажите GPT URL List, который мы создали ранее

Отчет о пользователях, которые копируют данные из Visual Studio в запросы для ChatGPT и другие LLM, или блокирование данных

1. Перейдите в меню Data Protection> Actions> New Rule> Clipboard Protection, чтобы создать новое правило для защиты буфера обмена

2. Условия:

• a. Enforced On: Windows (В Mac OS допустима только отчетность)
• b. Classification: Укажите, для какого контента нужно заблокировать доступ к URL-адресам
• c. End-User: ALL
• d. Source Application: ALL
• e. Destination Application: Supported Browsers
• f. Destination URL: Укажите GPT URL List, который мы создали ранее

Уведомление о пользователях, которые пытаются получить доступ к GPT URL List, или их блокирование

1. Перейдите в меню Data Protection> Actions> New Rule> Clipboard Protection, чтобы создать новое правило для защиты буфера обмена

2. Условия:

• a. End-User: ALL
• b. Web address (URL): Укажите GPT URL List, который мы создали ранее

Специалисты Trellix настоятельно рекомендуют протестировать правила в своей среде и удостовериться, что они срабатывают. Лишь после тщательной проверки стоит внедрять их в свои процессы.

Как воспользоваться преимуществами ChatGPT и других AI-сервисов, не подвергая риску интеллектуальную собственность компании? Для этого стоит внедрить соответствующие меры безопасности. А именно проактивный подход к безопасности, который означает предотвращение рисков и угроз, а не борьбу с последствиями.