Изучение, оценка применимости и адаптация опыта ведущих цифровых держав остается одной из важнейших задач для системы развития регуляторики и регулирования в любой индустрии.
Говоря же о регуляторной экосистеме цифровых сервисов в Казахстане, усиленной парламентским Комитетом по цифровизации, инновациям и науке, а также ожидаемых поправок к Цифровому Кодексу, закон об ИИ и отраслевое законодательство, важно отметить передовой опыт Китая в данной сфере.
7 сентября Верховный народный суд Китая опубликовал Мнение о законном рассмотрении споров, связанных с ИИ – документ, являющийся официальным толкованием и обязательным для использования руководством в правоприменении и судебной практике, связанной с использованием ИИ-инструментов или продуктов ИИ-сервисов. Применительно к казахстанским практикам можно сказать, что документ является нормативным постановлением Верховного суда.
В тексте документа прямо указано, что он не может охватить все возможные ситуации и по ряду вопросов, где в судебной практике еще не сложился консенсус, оставлено намеренное «белое пятно», на основании чего можно предположить, что в будущем будут выпускаться дополнения к данному документу.
При этом в Китае отсутствует отдельный, специализированный закон об ИИ, в связи с чем Верховный суд пошел другим путем – собрал и систематизировал действующие нормы (Гражданский кодекс, закон о кибербезопасности, закон о безопасности данных, закон об авторском праве, закон о защите прав потребителей и т.д.) с точки зрения их применимости в спорах с участием ИИ.
Существенное внимание уделено вопросам, связанным деликтными спорами, т.е. спорами о возмещении вреда от неправомерных действий, когда затронутая (пострадавшая) сторона либо вообще не участвует в договорных отношениях с ответчиком, либо участвует, но вред причинен недобросовестным алгоритмическим поведением, выходящим за рамки предмета самого договора.
К примеру, речь может идти о жертвах дипфейков, созданных другим пользователем того или иного сервиса, либо о ситуациях, при которых недобросовестные алгоритмы цифровых сервисов приводят к нарушению прав, интересов и безопасности людей – от ценовой дискриминации (основанной на данных о пользователях) до мошенничества с использованием фейкового контента. Далее представлены ряд направлений и модельных ситуаций, которые описаны в документе:
- Дипфейки и голосовые клоны – использование образа или голоса человека (в т.ч. умершего) для создания узнаваемого цифрового двойника без согласия признается основанием для иска о защите права на имя, изображение, голос и репутацию. Отдельно закреплено право близких родственников умершего требовать защиты, если цифровой двойник покойного создан и используется без их разрешения.
- «Сетевой доксинг» и слежка через ИИ – использование ИИ для агрегации и анализа публичных данных о конкретном человеке (телефон, соцсети) с целью получить приватную информацию признается основанием для иска о нарушении неприкосновенности частной жизни.
- Алгоритмическая ценовая дискриминация и мошенничество с использованием фейков знаменитостей прямо признаются основанием для потребительских исков, предусматривающих также штрафы для правонарушителей и выплату компенсаций пострадавшим сторонам.
- Ответственность разработчиков генеративных ИИ-сервисов – в случае уведомления правообладателем компании-владельца ИИ-сервиса о генерации контента, нарушающей его права и непринятия мер со стороны данной компании, она должна разделить ответственность наравне с пользователем, который намеренно инициировал генерацию нарушающего права контента.
- Ответственность за нарушение авторских прав ИИ-генерируемым контентом оценивается по совокупности факторов: тип сервиса, источник данных для обучения ИИ-моделей, степень вовлеченности сторон, извлеченная выгода и т.д. Разработчик, заявляющий о ненарушении прав, обязан раскрыть источники данных для обучения и принцип работы модели.
- Патентоспособность изобретений, созданных с участием ИИ, признается возможной – при этом изобретателем признается человек с существенным творческим вкладом, а патентообладателем – тот, кто по закону или договору имеет право на получение патента, как и в обычном патентном праве без участия ИИ.
- Закрепляются правила защиты прав на данные и датасеты – через авторское право, режим коммерческой тайны или антимонопольное законодательство, в зависимости от характера данных.
Отдельно следует выделить категории кейсов, касающиеся достаточно широкого понятия ИИ-девайсов, под которую гипотетически могут подпадать и роботы (embodied AI):
- Ответственность за продукцию с ИИ – заводы и продавцы устройств со встроенными ИИ-сервисами отвечают за ее дефекты, при этом суд обязан оценивать не только сам факт неисправности, но и то, насколько производитель честно предупредил о рисках и ограничениях применения.
- Автономное и частично автономное вождение – ответственность за ДТП распределяется между производителем (при дефекте системы) и водителем (при его вине), причем суд может обязать производителя или оператора предоставить данные бортовых систем для установления причин и хронологии аварии.
Помимо вопросов рассмотрения дел в судебных инстанциях документ описывает весьма важный блок, связанный в т.ч. с доказательной базой:
- В случае, если одна из сторон использует ИИ для получения или создания ложных доказательств, в т.ч. через удаление или изменение маркировки сгенерированного контента, целенаправленное манипулирование запросами к модели, избирательную подача результатов и т.д., такого рода факты являются основанием для отказа в удовлетворении иска, а также наложения штрафов и/или административного ареста, а при наличии признаков преступления – уголовной ответственности.
- Отдельно указано, что если сторона направляет в суд процессуальные материалы, подготовленные с помощью ИИ, она обязана сама проверить их достоверность и точность содержания, а также прямо сообщить суду об использовании ИИ-сервисов, при этом ответственность за точность и содержание данных материалов лежит только на данной стороне.
Также отдельный раздел документа посвящен вопросам выстраивания системы разрешения споров – выдвинута модель, основанная на многосторонней медиации с участием отраслевых регуляторов (из сфер кибербезопасности, полиции, антимонопольного регулирования и т.д.) и экспертов, а также передаче наиболее сложных и прецедентных дел в суды более высокой инстанции и развитии международного судебного сотрудничества по трансграничным ИИ- и дата-спорам.
При этом закреплена презумпция освобождения от ответственности для добросовестных разработчиков открытого ПО, однако механика формирования не раскрывается. Отмечается лишь, что добросовестным признается разработчик, предоставивший открытый код бесплатно и публично, раскрыв его функционал и риски безопасности, специфик применяющихся видов открытых лицензий и т.д. – в целом отмечается, что в каждом отдельном кейсе суд оценивает степень добросовестности компании, и как такового чек-листа, механизма аккредитации или реестра нет.
Для Казахстана, как передовой страны, где уже приняты Цифровой кодекс, закон об ИИ и продолжается совершенствование этих и других документов, заявление Верховного народного суда Китая является удобным ориентиром – не абстрактной декларацией принципов, а набором уже сформулированных, готовых к обсуждению правил по конкретным, узнаваемым категориям ситуаций.
