ИИ без риска: как QazCloud строит безопасные контуры и учит бизнес работать с технологиями
8 сентября президент Касым-Жомарт Токаев выступил с Посланием народу «Казахстан в эпоху искусственного интеллекта: актуальные задачи и их решения через цифровую трансформацию». Он подчеркнул, что искусственный интеллект и цифровизация должны стать ключевыми драйверами развития страны.
Мы пообщались с Сабиной Нурлыбаевой, начальником отдела сопровождения ИИ проектов компании QazCloud, чтобы узнать, как эти идеи уже реализуются на практике: как выстраиваются безопасные контуры внедрения ИИ, какие риски важно учитывать и почему обучение сотрудников становится ключевым фактором успеха.
Насколько мне известно, в QazCloud есть отдел, который занимается ИИ и вопросами безопасности?
Да, это так. У нас сформированы два стратегически важных направления. Первое: информационная безопасность. Коллеги разрабатывают регламенты, контролируют соблюдение правил и в реальном времени мониторят действия, которые могут нанести вред компании. Второе: искусственный интеллект. Мы развиваем проекты ИИ, поддерживаем внутренние инициативы и выстраиваем продукты для клиентов. Для нас это не просто отдельные команды — это фундамент будущего компании, где технологии и безопасность идут рука об руку.
Какие задачи этот отдел решает внутри компании и для клиентов?
Наша главная цель — создавать решения, которые реально закрывают потребности бизнеса. Внутри QazCloud это означает построение безопасной среды для работы с ИИ, а снаружи — создание продуктов, которые помогают клиентам внедрять технологии без страха потерять данные или столкнуться с избыточными затратами.
Сегодня у нас в разработке флагманская платформа. Она решает сразу несколько задач:
• даёт безопасный контур для работы с ИИ;
• упрощает управление и сопровождение моделей;
• сокращает затраты заказчиков на содержание штата специалистов по администрированию ИИ-систем.
Мы убираем рутину с плеч сотрудников — автоматизируем процессы, делаем удобные интерфейсы, внедряем «умные» инструменты. Компании могут сосредоточиться на бизнесе, а не на том, как собрать и обслуживать сложную AI-инфраструктуру.
Какие основные риски возникают, если сотрудники бездумно используют ИИ-сервисы вроде ChatGPT?
Прежде всего, это риск утечки чувствительных данных. И дело не только в «секретных» документах: даже банальная переписка или рабочая инструкция могут содержать больше информации, чем кажется на первый взгляд.
Есть ли примеры, когда сотрудники случайно «сливали» важные данные в открытые ИИ-платформы?
Да, такие примеры есть, хотя, подчеркну, не в нашей компании.
В Казахстане и мире случалось, что сотрудники загружали во внешние ИИ-платформы исходные коды, финансовые отчёты, внутренние инструкции. Последствия были очень серьёзные: от репутационных потерь до многомиллионных убытков.
Почему даже «обычные» тексты или файлы могут быть опасны, если их загрузить в ИИ?
Потому что любой документ хранит следы. Это могут быть метаданные, имена сотрудников, названия внутренних систем, цепочки процессов. Для внешнего наблюдателя это набор мелочей, но для злоумышленника — пазл, из которого складывается картина бизнеса.
Что больше угрожает компании — хакеры извне или собственные неграмотные сотрудники?
Я бы сказала, что это два равнозначных риска.
Внешние атаки становятся всё более изощрёнными, но чаще всего именно человеческая ошибка открывает дверь киберпреступникам. Неграмотный запрос или загрузка файла может стоить компании не меньше, чем атака извне.
Как вы объясняете сотрудникам, что даже один неправильный запрос в ИИ может стоить компании миллионов?
«Всё зависит от знаний». Ошибки возникают, когда у человека нет понимания, как работает технология. Поэтому мы выстраиваем систему регулярных обучений: тренинги, практические кейсы, живые примеры. Мы стараемся не запугивать, а показать реальную ценность правильного подхода.
Какие ошибки чаще всего совершают люди при работе с ИИ?
• Загружают документы в открытые сервисы «для удобства».
• Доверяют результату ИИ без критического анализа.
• Считают, что ИИ всегда прав и лучше знает.
• Не понимают границ использования: что можно вводить, а что категорически нельзя.
Какие меры внедряет QazCloud, чтобы сотрудники правильно и безопасно использовали ИИ?
Мы строим внутренний безопасный контур, внедряем регламенты и, самое главное, обучаем сотрудников наших заказчиков. У нас есть продукты в области информационной безопасности, которые позволяют отслеживать риски утечек, а также собственная экспертиза в построении защищённых ИИ-платформ.
Насколько важна культура безопасности в компании? Может ли она быть даже важнее технологий?
Я абсолютно уверена, что культура безопасности важнее любых технологий. Можно построить самые передовые системы, но если сотрудники не понимают, зачем они нужны и как с ними работать, это всё бесполезно. Без культуры — это просто красивые коробки.
Считаете ли вы, что нужно обучать всех сотрудников — от новичков до топ-менеджеров — грамотному использованию ИИ?
Да, безусловно. Иначе получается «разрыв»: одни — знают, другие — нет. ИИ — это универсальный инструмент, и важно, чтобы все — от стажёра до топ-менеджера — понимали и возможности, и риски.
Какие технологии и практики помогут компаниям безопасно использовать ИИ в будущем?
• Закрытые корпоративные ИИ-контуры.
• Системы маркировки и классификации данных.
• Zero-trust архитектура.
• Автоматические средства мониторинга и DLP-системы.
• Регламенты + постоянное обучение сотрудников.
Можно ли вообще полностью исключить человеческий фактор или речь всегда будет идти о снижении рисков?
Полностью исключить нельзя. Человеческий фактор был и будет. Наша задача — снижать риски, создавая такие системы и такие условия, при которых ошибка будет минимальной и не приведёт к катастрофическим последствиям.
Что бы вы посоветовали бизнесу в Казахстане: как начать использовать ИИ, не подвергая себя угрозам?
Начать стоит с простого: внедрять ИИ там, где риски минимальны, но эффект понятен. Параллельно выстраивать культуру и регламенты. И главное — использовать защищённые корпоративные решения, а не публичные сервисы.
QazCloud как раз развивает такие платформы, и мы готовы быть партнёром для бизнеса в этом пути.