Для чего запросить описание модели у поставщика генеративного ИИ до заключения договора на сервис?

Описание модели нужно для оценки пригодности и согласования контроля. Оно не заменяет испытания и не означает автоматического раскрытия всех внутренних сведений.

Civius, юридическая компания Полина Федорова, старший юрист; правовая позиция на 2023-08-16

Короткий ответ

Чтобы до покупки понять, для каких задач модель предназначена, какие ограничения известны и какие меры контроля нужны. Карта модели помогает сформулировать вопросы к поставщику и условия договора, но не заменяет собственную проверку нужного сценария.

Koley Jessen в международном разборе от 16 августа 2023 года включает такое описание в предварительную оценку генеративного ИИ. Объём раскрытия следует обсуждать: поставщик не обязательно предоставляет все внутренние технические материалы.

Сопоставьте описание со своей задачей

Проверьте назначение модели, предполагаемые ограничения и риски использования. Уточните, относятся ли сведения к приобретаемой версии и конфигурации. Общая презентация семейства моделей может мало говорить о фактическом продукте.

Выделите вопросы, которые требуют испытаний: качество нужных ответов, работа с вашими типами данных и необходимость проверки человеком. Эти вопросы полезно превратить в критерии результата и тестирования, когда договор предусматривает интеграцию или разработку.

Закрепите последствия полученных сведений

Если обнаружено существенное ограничение, решите, допустимо ли оно, нужна ли дополнительная защита или иной продукт. Назовите запретные сценарии, человеческое подтверждение и порядок обновления информации в правилах использования системы.

Согласуйте, как поставщик сообщает о существенных изменениях и кому отвечает на вопросы. Если важных сведений нет, зафиксируйте оставшуюся неопределённость и оцените её до запуска.

Полезность карты определяется тем, какие решения она позволяет принять. Просто приложить её к договору недостаточно, если существенные ограничения не учтены в выбранных сценариях, критериях проверки и обязанностях участников.

Если нужно применить ответ к Вашей ситуации или документам, Подготовить пользовательское соглашение: юрист проверит вводные и учтёт обстоятельства, которые короткий ответ не охватывает.