Член Совета директоров на базе ИИ или немного о формализации использования ИИ в организации

После запуска первого члена совета директоров на базе ИИ — SKAI — в «Самрук-Казына» в СМИ появились комментарии экспертов о том, что нужно расширить терминологию закона об акционерных обществах и прямо предусмотреть, что членом совета директоров может быть не только человек, но и искусственный интеллект (ИИ). 

На самом деле вопрос не сводится к формальной терминологии. Чтобы подобные ИИ-инициативы работали полноценно и без сбоев, нужно закладывать целый комплекс мер, которые создадут прочную основу для их функционирования. Так что для этого нужно?

Для лёгкости восприятия многие технические вещи будут опущены.

1. Регулирование и внутренние документы

Прежде всего, необходим отдельный закон об искусственном интеллекте, который станет базой для регулирования всех вопросов, связанных с ИИ. Без него любые инициативы будут висеть в воздухе.

Внутренние документы организаций, в том числе, как в вышеуказанном случае, положение о совете директоров, должны прямо предусматривать возможность участия ИИ в процессах принятия решений. Здесь важно заранее встроить требования по информационной безопасности, защите персональных данных и конфиденциальности, ну и, разумеется, перечень рассматриваемых ИИ вопросов.

2. Фреймворк работы ИИ

Необходимо чётко описать и формализовать, как именно ИИ будет применяться: на каких заседаниях он участвует, по каким вопросам голосует или выдаёт заключения — например, если роль ИИ всё же будет сконцентрирована именно на анализе различных показателей и данных для выработки полезной аналитики для органа, принимающего решения. 

Принципы работы ИИ должны быть прозрачными: объяснимость логики решений, ограничение сферы применения (исключить социальный скоринг, решения с риском для здоровья и прав человека), соблюдение интересов организации и государства. Все действия ИИ должны оставлять «аудиторский след», чтобы их можно было проверить.

3. Контроль, качество данных и недискриминация

Решения в чувствительных сферах всегда должны оставаться за человеком. ИИ может помогать, но не заменять человеческий контроль. По крайней мере в краткосрочной и среднесрочной перспективах. 

Системы ИИ обязаны работать на качественных и репрезентативных данных, исключающих предвзятость. И да, на первых порах важно признать, что организациям и отраслям потребуется время на акклиматизацию.

4. Аудит

Системы ИИ должны регулярно тестироваться и проходить независимую проверку. Важно вести реестр процессов, в которых ИИ участвует в принятии решений, чтобы отслеживать все точки соприкосновения человека и машины. Регулярный аудит позволит вовремя выявлять и устранять проблемы.

5. Минимизация рисков

Использование ИИ должно охватываться политиками по управлению рисками, противодействию мошенничеству, комплаенс и другими ключевыми внутренними процедурами. Это поможет минимизировать вероятность злоупотреблений и снизить регуляторные и операционные риски. 

6. Осведомленность

Сотрудники организации должны понимать новые правила игры. Обучение и информирование персонала — это не формальность, а необходимое условие. Важно объяснить, зачем внедрен ИИ, как он используется и какой эффект приносит организации. Показатели эффективности должны быть измеримыми, по крайней мере в начале эксплуатации, чтобы понять, какие вопросы требуют дальнейшей проработки.

Если всё это будет реализовано, использование ИИ не будет временным PR-трендом, а станет действительно эффективным инструментом, усиливающим корпоративное управление, прозрачность и устойчивость организации. 

ИИ для организации — это, однозначно, отличный инструмент, важно лишь научиться правильно и эффективно использовать его.