Чем объяснимость ИИ отличается от принципов обработки персональных данных?

Прозрачность работы ИИ и принципы статьи 5 регулируют разные стороны использования системы. Объяснение алгоритма не разрешает собирать лишние данные.

Civius, юридическая компания Мария Кузнецова, старший юрист

Короткий ответ

Объяснимость ИИ отвечает на вопрос, насколько понятны работа алгоритма и получение им результата. Принципы статьи 5 Закона о персональных данных отвечают на другой набор вопросов: законна ли обработка, определена ли её цель, не собраны ли лишние сведения, точны ли данные и как долго они хранятся. Одно требование не заменяет другое.

В рассмотренном автором сопоставлении прозрачность названа среди принципов Национальной стратегии развития искусственного интеллекта до 2030 года. Она включает объяснимость работы ИИ и процесса получения результатов, а также недискриминационный доступ пользователей к информации об алгоритмах. В перечне статьи 5 отдельного принципа с таким названием нет.

Как пользоваться этим различием

Допустим, система оценивает заявки людей. Компания может подробно объяснять порядок выставления баллов, но использовать данные, которые для оценки не нужны. Объяснение алгоритма само по себе не устраняет избыточность обработки. Возможна и обратная ситуация: сведения собраны для законной цели и в нужном объёме, однако пользователю непонятно, как система пришла к результату.

При оценке проекта полезно отдельно проверить правовое основание, цель и состав данных, а отдельно – доступность и содержание объяснений о работе ИИ. Не нужно превращать отсутствие слова «прозрачность» в статье 5 в разрешение скрывать любую информацию: другие обязанности оператора оцениваются по соответствующим нормам и фактическому применению системы.

Нормативная основа сравнения – Закон № 152-ФЗ и Национальная стратегия, утверждённая Указом Президента РФ от 10 октября 2019 года № 490. Ответ передаёт смысл авторского сопоставления, а не устанавливает самостоятельное требование раскрывать исходный код любой системы.

Если нужно применить ответ к Вашей ситуации или документам, Проверить сайт на соответствие 152-ФЗ: юрист проверит вводные и учтёт обстоятельства, которые короткий ответ не охватывает.