Валерий Зорькин выступил против наделения ИИ личными правами

Наделение искусственного интеллекта (ИИ) личными правами может быть опасно для человека, с таким мнением выступил председатель Конституционного суда (КС) Валерий Зорькин. Тему ИИ он избрал для своей ежегодной лекции на Петербургском международном юридическом форуме (ПМЮФ).

Зорькин заявил, что, прежде чем наделять правосубъектностью некую сущность, ставя ее наравне с человеком, стоит вспомнить, что человек – это существо социальное. «Можем ли мы утверждать, что ИИ подобен человеку и обладает неотъемлемым от состояния субъектности в сфере права соответствующим набором практических навыков и стереотипов поведения? Мне кажется, что отрицательный ответ на поставленный вопрос очевиден», – рассуждает он.

Тему для доклада Зорькин выбрал не случайно: как он сам рассказал, тема наделения самых развитых роботов и ИИ особым статусом электронной личности с набором определенных прав и обязанностей присутствовала в докладе Европарламента о правовых вопросах. «Предлагается гарантировать ИИ право на свободу. Но неизбежно возникает вопрос: свободу для чего и свободу от чего?» – спрашивает глава КС.

Зорькин признает, что ИИ уже на всех парах проникает в сферу юриспруденции: разрабатываются платформы и цифровые инструменты, которые облегчают профессиональную деятельность за счет выполнения рутинных задач. Это автоматизация типовых юридических услуг и онлайн-сервисы для клиентов с ботами; частичный переход правосудия в онлайн-сферу и разработка типовых решений на основе ИИ, включая конструкторы документов, сервисы проверки контрагента и системы поиска судебной практики, а также иной правовой информации, поясняет он. При этом Зорькин предостерегает: ИИ коренным образом отличается от человеческого.

Этот разум, считает председатель КС, может полностью игнорировать все, что для человека ценностно важно. «Сами духовные и крестные отцы ИИ, трубадуры великих преимуществ ИИ предупреждают, что подобная сущность, потенциально более опасная, чем ядерное оружие, может в конечном итоге уничтожить жизнь на Земле», – отметил он.

Но главной опасностью Зорькин называет даже не ИИ, а трансгуманизм. Это движение, активно развивающееся на Западе, по его словам, также тесно соприкасается с постгендеризмом – течением, призывающим к нивелированию половых различий и в перспективе окончательному устранению пола посредством биоинженерии, репрогенетики вспомогательных репродуктивных технологий. Претендуя на то, чтобы стать главной идеологией четвертой промышленной революции, трансгуманизм недооценивает всю сложность отношений человека с технологиями, убежден Зорькин. «Поскольку трансгуманизм расширяет социум за счет включения иных сущностей, положение человека в этом радикально расширенном по своему составу социуме децентрируется», – подчеркнул судья.

С позицией главы КС согласен ИИ-архитектор ГК «Самолет», эксперт альянса в сфере ИИ Андрей Комиссаров. «С юридической точки зрения вопрос ответственности ИИ за неверные суждения до конца не решен в части того, должна ли лежать ответственность на разработчиках или на внедренцах», – отметил он в беседе с «Ведомостями». По словам Комиссарова, самые широко используемые типы ИИ – это генеративные трансформеры, большие языковые модели, которые принадлежат своим владельцам. Большинство современных ИИ – это не чудо из коробки и даже не отдельная система, как правило, аббревиатура «ИИ» подразумевает мультиагентную систему или ансамбль из нескольких алгоритмов и баз данных, у каждой из которых могут быть отдельные разработчики, пояснил собеседник.

ИИ фактически переворачивает старые правовые парадигмы, отрывая их от тех устоев, на которых право изначально строилось, отметил юрист в сфере конституционного права Иван Брикульский. Но с другой стороны, ряд угроз сильно преувеличены, считает он. Преждевременно говорить о каком-то новом цифровом переходе, рисках ИИ, когда еще недостаточно обеспечена базовая потребность в классических политических правах, на этом поприще в России еще много работы, в том числе и у КС, добавил юрист.

Юрист Гарегин Митин при этом пояснил, что применение любых технических и технологических средств должно иметь свои пределы. По его мнению, история уже показала, что бездумное применение даже простых в сравнении с ИИ технологий, например генетического скрининга, или прием новых лекарственных средств приводили к печальным последствиям. «ИИ – это общее благо в масштабах всей страны и всего мира, а значит, будет такое конституционное право на доступ к его возможностям для реализации прав и законных интересов, достижения законных целей: не читить с написанием ВКР, а разгадывать содержание древних надписей», – предположил он.

Исторически так сложилось, что правовое регулирование всегда догоняет технический прогресс и порождаемые им изменения в социальных практиках, говорит юрист Антон Тимченко. «В ближайшее время нам предстоят бурные дискуссии в цифровой доктрине о том, является все-таки объектом или субъектом права ИИ. Главный вызов, который перед нами стоит, – разграничить ИИ как очень умную, эффективную, быструю, оперативную, но все-таки машину от человека как личности, обладающей ценностями, эмоциями, представлением о справедливости», – говорит он.