В статье рассматриваются актуальные проблемы гражданско-правовой ответственности за вред, причиненный системами искусственного интеллекта (ИИ). Исследуется спорный вопрос о правосубъектности ИИ и его квалификации как объект права. Рассматривается круг лиц, которые могут быть привлечены к ответственности, и критерии, по которым эта ответственность будет распределяться. В качестве мер по совершенствованию законодательства предлагается введение солидарной ответственности и обязательного страхования.
Установив, что ИИ является объектом права, необходимо определить круг субъектов, которые должны нести за него ответственность.
В «жизненном цикле» системы ИИ можно выделить нескольких ключевых участников. Разработчик (создатель) создает алгоритм и осуществляет его первичное обучение; его ответственность может быть аналогична ответственности производителя товара. Оператор (пользователь, владелец) использует систему для своих целей, обладает над ней непосредственным контролем и извлекает полезный эффект, в связи с чем должен нести риски, связанные с ее эксплуатацией. Владелец данных и Обучающий (куратор) также могут быть привлечены к ответственности, если вред причинен вследствие некачественных данных или неадекватных действий по дообучению системы. Сложность технологии ИИ приводит к «размыванию» причинения. По меткому замечанию А.Г. Карапетова, "вред является результатом не единичного действия одного лица, а совокупности решений и действий нескольких независимых субъектов" [1, c. 78].
Для распределения ответственности между несколькими субъектами целесообразно использовать критерий влияния на риск. Ответственность распределяется в зависимости от степени, в которой каждое лицо оказало влияние на формирование риска причинения вреда: разработчик – через алгоритмы и данные, оператор – через выбор сферы применения и техническое обслуживание. Данный подход позволяет применять механизм долевой или солидарной ответственности.
Практичным решением может стать установление законной презумпции ответственности оператора перед потерпевшим, что упрощает положение последнего. Затем оператор, возместивший вред, получает право регрессного требования к разработчику или иному виновному лицу.
Феномен «черного ящика» – неспособность понять логику принятия решений сложной нейросетью – кардинально меняет парадигму доказывания. Потерпевшему становится практически невозможно доказать противоправность и вину в действиях конкретного лица. На этот вызов право должно ответить смещением бремени доказывания. Законодатель может закрепить презумпцию вины разработчика или оператора, возложив на них обязанность доказывать отсутствие своей вины, например, предъявив доказательства надлежащего тестирования системы. Следовательно, установление субъекта ответственности требует модификации процессуальных правил в пользу потерпевшего.
Установив круг ответственных лиц, необходимо проанализировать центральное условие ответственности – вину.
Категория вины как психического отношения лица к своему поведению и его последствиям является сугубо антропоцентричной. "Бессмысленно говорить о вине алгоритма, так как вина предполагает упрек в адрес сознания, которого у машины нет" [2, c. 34]. Кроме того, непредсказуемость самообучающихся систем делает классическую проверку на «осмотрительность лица» неприменимой. Вопрос о вине может ставиться только в отношении действий людей, связанных с ИИ.
Даже при переносе фокуса на вину оператора проблема «черного ящика» создает непреодолимое препятствие. Оператор объективно лишен возможности доказать свою невиновность, так как не может объяснить решение системы. Это создает «ловушку доказывания» для обеих сторон, но в первую очередь для потерпевшего, что приводит к системному нарушению его прав.
Указанные проблемы приводят к выводу о необходимости перехода к объективным моделям ответственности. Наиболее адекватной и уже существующей в российском правопорядке конструкцией является ответственность за вред, причиненный источником повышенной опасности (ст. 1079 ГК РФ).
Автономные системы ИИ обладают всеми признаками ИПО: они несут в себе высокую степень опасности вследствие невозможности полного контроля над ними со стороны человека. Как указывает В.А. Лапач, "сложные автономные системы ИИ... несут в себе высокую степень опасности невозможностью полного контроля над ними со стороны человека, а их нормальная эксплуатация создает повышенную вероятность причинения вреда в силу самой их природы" [3, c. 51]. Применение ст. 1079 ГК РФ влечет смену бремени доказывания: владелец ИИ обязан возместить вред, если не докажет, что вред возник вследствие непреодолимой силы или умысла потерпевшего. Это обеспечивает защиту прав потерпевших и справедливо возлагает бремя ответственности на того, кто извлекает выгоду из использования рисковой технологии.
Таким образом, отказ от вины как условия ответственности и квалификация ИИ как источника повышенной опасности является единственным последовательным решением.
Список литературы:
- Карапетов, А. Г. Возмещение вреда, причиненного искусственным интеллектом: попытка системного анализа / А. Г. Карапетов // Вестник гражданского права. – 2023. – № 4. – С. 75–95.
- Сарбаш, С. В. Проблема вины в гражданском праве и вызовы искусственного интеллекта / С. В. Сарбаш // Журнал российского права. – 2024. – № 2. – С. 30–45.
- Лапач, В. А. Гражданско-правовая ответственность за вред, причиненный роботами и искусственным интеллектом: монография / В. А. Лапач. – Москва: Проспект, 2023. – 180 с.