Как будет развиваться страхование искусственного интеллекта

Финансовые организации активно применяют искусственный интеллект (ИИ) для решения самых разных задач – от риск-менеджмента и выявления мошенничества до автоматизации рутинных процессов. Однако внедрение ИИ несет не только очевидные выгоды, но и новые риски, причем как для самих финансовых организаций, так и для их клиентов. «Ведомости&» поговорили с экспертами страхового рынка о том, какие возможности открывает и какие сложности создает для отрасли новая сфера деятельности в области страхования ИИ.

Новые риски и старые угрозы

Внедрение ИИ в финансовом секторе создает специфические риски, отличающиеся от традиционных угроз, считает генеральный директор Ассоциации «ФинТех» Дмитрий Ищенко. В отличие от традиционного программного обеспечения (ПО) ИИ обладает возможностью адаптивного поведения, сложностью и непрозрачностью алгоритмов, динамической обработкой данных и высокой степенью автономности. «Эти особенности делают ИИ мощным инструментом, но также источником новых и более сложных рисков, требующих обновленных стратегий управления. Например, системы ИИ могут самостоятельно изменять свои решения на основе новых данных, что делает их поведение менее предсказуемым по сравнению с традиционным ПО», – поясняет эксперт.

Финансовый сектор уже не первое десятилетие занимается попытками внедрения ИИ-алгоритмов в свою работу, говорит Михаил Мосесов, руководитель управления развития андеррайтинга и работы с рисками СК «Абсолют страхование». Сейчас ИИ активно работает в направлениях риск-менеджмента и антифрода (борьбы с мошенничеством). В частности, в процессах оценки клиента и сопутствующих ему финансовых рисков. По мнению Мосесова, основные риски использования ИИ в финансах можно разделить на две категории. Первая – риски для самих финансовых организаций, которые сводятся к «контролю за качеством разработки». Вторая – риски для клиентов – физических лиц, главным из которых является «алгоритмическая предвзятость» (дискриминационное поведение ИИ по отношению к людям из-за ошибок в его обучении и настройке. – «Ведомости&»).

Игорь Лаппи, генеральный директор «Совкомбанк страхования» и руководитель Страховой группы Совкомбанка, считает, что в общем ИИ в финансовом секторе не создает принципиально новых рисков, а скорее становится новым источником уже известных угроз. «Все они так или иначе связаны с традиционными угрозами для клиентов финучреждения и самого фининститута. Это утечка критически важных персональных данных, выдача необеспеченных кредитов и т. п. То есть все те ошибки или умышленные деяния, которые может совершить человек, случайно или умышленно, может допустить и ИИ», – объясняет он.

К специфическим рискам, связанным с особенностями функционирования систем ИИ, эксперт относит непрозрачность внутренней логики работы моделей ИИ (работа по принципу черного ящика), что затрудняет аудит/контроль бизнеса, рассказывает Лаппи. Кроме того, есть риски, связанные с алгоритмическими ошибками, вырождением моделей, изменением паттерна данных и рыночных условий – все это может приводить к тому, что ИИ-модели становятся неактуальными. Помимо этого остается опасность, что сами модели ИИ могут быть использованы не по назначению. Например, когда в важных для бизнеса процессах используются модели, обученные на данных и особенностях других бизнес-кейсов, либо допущено «галлюцинирование нейронных сетей» (так называется эффект, когда генеративный ИИ начинает выдавать случайные или неадекватные запросу результаты. – «Ведомости&») в критически важных процессах, перечисляет Лаппи.

Инструменты страхования

Само по себе страхование ответственности при использовании ИИ вписывается в общую концепцию страхования киберрисков, полагает Анар Бахшалиев, исполнительный директор СОГАЗа. По его словам, основным драйвером данного вида страхования является постоянное увеличение участия информационных систем в бизнес-процессах компаний, рост их автономности и повышение уровня решаемых задач. «В такой модели роль киберстрахования возрастает, поскольку контролировать убытки, вызванные нарушениями в работе информационных систем, становится все сложнее», – указывает он.

На мировом рынке уже существуют специализированные страховые продукты, такие как киберстрахование, страхование профессиональной ответственности и страхование технологических рисков, которые покрывают убытки от инцидентов с участием ИИ, отмечает Ищенко. В России похожие продукты тоже есть, и они могут быть адаптированы для покрытия рисков, связанных с ИИ. Такие страховые решения становятся все более востребованными по мере роста использования ИИ в финтехе, но в целом рынок находится в начале своего развития, считает эксперт.

В большинстве случаев существующие продукты являются частью более общих программ страхования киберрисков. Например, ущерб от перерывов в деятельности или расходы на восстановление информационных систем. Однако спрос на такие продукты не очень высок, согласен представитель Всероссийского союза страховщиков (ВСС).

«Тем не менее инциденты, такие как сбои в алгоритмической торговле, кибератаки и ошибки в автоматизированных системах скоринга, демонстрируют потенциальные риски. Финансовые и страховые организации активно готовятся к таким угрозам и прорабатывают соответствующие страховые продукты для их покрытия», – объясняет Ищенко.

Помимо корпоративного страхования от киберрисков на рынке есть множество других продуктов, связанных с ИИ. Например, страхование беспилотных летательных аппаратов, в котором страхуется как сам аппарат, так и ответственность перед третьими лицами. В этом случае страховая компания не выделяет сбой работы мотора от сбоя в работе ИИ. Другим примером продуктов может быть страхование беспилотных автомобилей, которое страховой рынок предлагает уже сравнительно давно, рассказывает директор департамента машинного обучения и работы с данными «Альфастрахования» Александр Логачев.

ОСАГО для ИИ

О возможном ущербе от ИИ и способах застраховаться от него задумались и законодатели. В июне 2024 г. Госдума в третьем чтении приняла поправки в закон «Об экспериментальных правовых режимах (ЭПР) в сфере цифровых инноваций в РФ». Согласно поправкам, создатели технологий на основе ИИ, работающие в ЭПР, будут обязаны страховать ответственность за возможный вред жизни, здоровью или имуществу, связанный с применением их разработок.

По мнению Ищенко из Ассоциации «ФинТех», принятие нового закона об обязательном страховании вреда от ИИ в рамках ЭПР окажет значительное влияние на страховую отрасль и финансовый сектор. Он как минимум повысит доверие к ИИ-технологиям, а также простимулирует развитие специализированных страховых продуктов и увеличит конкурентоспособность финансовых организаций, уверен он.

Принятие этих поправок может существенно повлиять на развитие рынка страхования ИИ-рисков, согласны в ВСС. Пока зарегистрированных в ЭПР компаний не так много – около 200. Но в союзе надеются, что сектор будет расширяться. «В целом ИИ, существующего вне рамок ЭПР, гораздо больше, чем в реестре. Но желание добровольно страховать свои риски будет обусловлено тем, как риски, связанные с использованием ИИ, будут реализовываться в будущем и как будет меняться регуляторная среда», – добавляют в ВСС.

Важнейшим вопросом в контексте страхования ИИ-рисков является оценка ущерба и урегулирование убытков. Эксперты ВСС отмечают, что с 2025 г. это будет зависеть от того, используется ИИ в рамках ЭПР или нет.

«В законе описано и как определять ответственное лицо, и как должны расследоваться инциденты. Предполагается, что на уровне Минэкономразвития или – в случае инцидента на финансовом рынке – на уровне Банка России будут создаваться соответствующие комиссии, которые будут осуществлять расследование. Если ИИ использовался вне ЭПР, то факт причинения вреда, причинная связь и размер причиненных убытков будут определяться в рамках обычного гражданского оборота», – поясняют в ВСС.

Развивать нормативно-правовую базу в сфере страхования ИИ-рисков надо и дальше, уверен Лаппи из «Совкомбанк страхования». «Необходимо четко классифицировать понятие риска по отношению к ИИ, определить зону ответственности разработчика и его ПО, которым, по сути, сегодня является ИИ, установить прямую причинно-следственную связь между действиями ИИ и причиненным ущербом. Определить характеристики страхового случая, способы урегулирования убытков, причиненных ИИ, меру ответственности», – перечисляет он.

ИИ под присмотром

Один из ключевых вопросов как для финансовых организаций, так и для страховщиков – оценка и минимизация рисков, связанных с использованием ИИ. По мнению экспертов ВСС, уровень риска напрямую зависит от того, какие функции выполняет система. «Если ИИ используется в целях поддержки принятия решений, уровень риска ниже. Если ИИ самостоятельно принимает решения, то риск возрастает. Это также влияет на размер возможного ущерба», – говорит представитель ВСС.

При этом, как отмечают в ВСС, процедуры оценки риска ИИ-системы должны учитывать не только ее технические характеристики, но и особенности бизнес-процессов, в которые она встроена. «Оценить риск от использования ИИ может бизнес-аналитик, проанализировав, как выстроены бизнес-процессы в финансовой организации и уровень риска, который увеличивает или снижает использование в них ИИ, а также IТ-специалист – в части надежности самих технологических решений. Вполне логично делать аудит ИИ-систем перед заключением страхового договора и с разумной периодичностью в течение срока его действия. Либо запрашивать страхователя о таком аудите, проделанном внешними подрядчиками», – поясняют в ВСС.

По мнению Ищенко, для адекватного регулирования рисков ИИ в финтехе необходимы значительные изменения нормативно-правовой базы. Нужно вводить стандарты разработки, обязательные аудиты и сертификацию ИИ-систем и помимо прочего правила для предотвращения дискриминации, уточняет он.

Представитель компании «Зетта страхование» рекомендует в первую очередь повышать квалификацию специалистов, работающих с ИИ. Иногда даже стоит умышленно упрощать модели для большей интерпретируемости и репрезентативности результатов, считает он. Кроме того, нужно анализировать взаимосвязи между интегрируемыми моделями, повышать культуру работы с данными, постоянно отслеживать и валидировать (проверять на достоверность. – «Ведомости&») получаемые результаты и искать причины аномалий в работе систем.

Эксперты ВСС, в свою очередь, также рекомендуют финансовым организациям внимательно относиться к новым непроверенным решениям, больше времени уделять пилотному тестированию и регулярным проверкам результатов работы ИИ-систем, говорит представитель ВСС.

В «Альфастраховании» считают, что для эффективного управления рисками ИИ необходимы специализированные технические решения. Например, системы логирования (протоколирования действий. – «Ведомости&») и проведения экспериментов, системы контроля за качеством и описанием данных (Data Governance). «Системы мониторинга моделей позволяют определить, когда стоит переобучить модель в связи с изменившимися внешними условиями или ее естественным устареванием. Системы кибербезопасности защищают как данные, так и модели от несанкционированного доступа или атак с целью злоупотребления или влияния на алгоритмы», – поясняет Логачев.

По его мнению, ключевым фактором успеха является также наличие у компании сильной команды своих специалистов или проверенных консультантов высокого уровня извне. «И тогда они смогут минимизировать риски, связанные с использованием ИИ», – резюмирует он.

Взгляд в будущее

В ближайшие 5–10 лет рынок страхования рисков ИИ в финтехе ожидает активное развитие благодаря росту спроса на специализированные полисы и повышенному вниманию со стороны регуляторов, уверены в Ассоциации «ФинТех». «Финансовые организации будут стремиться минимизировать риски, связанные с ИИ, что будет способствовать созданию более точных и эффективных страховых продуктов. Ожидается увеличение доверия к страхованию ИИ-рисков за счет роста числа застрахованных инцидентов и успешных страховых выплат. В результате рынок станет более безопасным и устойчивым для внедрения ИИ», – считает Ищенко.

Пока что рынок находится в зачаточном состоянии – по крайней мере, ВСС не известно о страховых случаях или инцидентах в связи с причинением вреда в результате действий ИИ, говорит представитель союза.

«На сегодняшний день мы не видим широкого спроса конкретно на страхование рисков, связанных с ИИ. Можно ожидать, что вместе с расширением использования технологий ИИ в производственных и хозяйственных процессах компаний будет возникать и спрос на включение данных рисков в страховое покрытие», – согласен Бахшалиев из СОГАЗа.

Рынок страхования ИИ будет развиваться постепенно, по мере оптимизации затрат компаний на разработку ИИ-технологий, которые сейчас в приоритете, считает Логачев из «Альфастрахования». «В ближайшей перспективе очевидно, что финтех не планирует оптимизации подобных расходов, видя в применении ИИ конкурентные преимущества, а в некоторых случаях и суровую необходимость», – говорит эксперт.

Страхование поможет сократить финансовые риски и обеспечить более строгие регуляторные соответствия, повышая прозрачность и безопасность ИИ-систем. «В результате финансовый сектор и страховая отрасль станут более устойчивыми и защищенными от рисков, связанных с внедрением ИИ», – уверен Ищенко. &