Эпоха искусственного интеллекта. Регулирование

Президент Казахстана Касым-Жомарт Токаев во время выступления на пленарном заседании IT-форума Digital Bridge 2023 высказался о развитии искусственного интеллекта (ИИ) в Казахстане, а также дал ряд поручений в части повышения грамотности и развития необходимой инфраструктуры.

Я не буду повторяться и писать тезисы о пользе ИИ и рисках, связанных с ним.

Стоит лишь отметить, что вопрос весьма актуален и вот почему.

Европейский Союз (ЕС) продолжает работать над формированием и развитием своей нормативной базы ИИ, первым важным шагом стал 𝐄𝐔 𝐀𝐈 𝐀𝐜𝐭 (Закон ЕС об ИИ), который после окончательного утверждения и вступления в силу станет одним из наиболее значимых актов с точки зрения формализации использования и контроля ИИ.

Основная задача 𝐄𝐔 𝐀𝐈 𝐀𝐜𝐭 — защитить права граждан ЕС, а также определить запрещенные практики ИИ (влияние на политические кампании, социальную оценку граждан, распознавание лиц в общественных местах).

Прочитал интересный документ "Cybersecurity of Artificial Intelligence in the AI Act. Guiding principles to address the cybersecurity requirement for high-risk AI systems" (Кибербезопасность искусственного интеллекта в Законе об искусственном интеллекте. Руководящие принципы выполнения требований кибербезопасности для систем искусственного интеллекта высокого риска), в котором определены руководящие принципы в отношении требований кибербезопасности систем искусственного интеллекта, такие как как:

• Фокус на системы ИИ;
• Соблюдение данного закона обязательно требует оценки рисков безопасности;
• Обеспечение безопасности систем ИИ требует комплексного и непрерывного подхода с использованием проверенных практик и средств контроля, ориентированных на ИИ.

Если же посмотреть на данные вопросы более широко и выйдя за пределы Казахстана и ЕС, то уже сейчас ISO (Международная организация по стандартизации) совместно с IEC (Международная электротехническая комиссия) выпустили документ ISO/IEC 22989:2022 "Information technology — Artificial intelligence — Artificial intelligence concepts and terminology" (Информационные технологии — Искусственный интеллект — Концепции и терминология искусственного интеллекта).

Как следует из названия данного документа, он посвящен ИИ и является хорошим тизерным контентом для гуманитариев с точки зрения понимания технических терминов "искусственный интеллект", "машинное обучение", "нейронные сети", а также дает формализованное представление о концепции ИИ.

Документ должен помочь понять технологию ИИ и оказать положительное влияние на широкий круг заинтересованных сторон (правительства, организации, эксперты), а также структурировать будущую работу с ИИ.

Вопросы ИИ начнут внедряться в различные нормативные правовые акты стран, в том числе с целью гармонизации использования этой технологии с уже налаженными процессами в части защиты персональных данных, противодействия отмыванию денег и многому другому. Казахстан в данном случае не будет исключением.

Мы находимся в начале очень сложного, но интересного пути, о котором писали писатели-фантасты — Азимов, Брэдбери, Шекли...