Банк России перечислил риски внедрения искусственного интеллекта

Активное внедрение банками искусственного интеллекта (ИИ) несет угрозы [снижения] конкуренции, компрометации данных, используемых для обучения ИИ, а также этические риски. Об этом заявил статс-секретарь, заместитель председателя Банка России Алексей Гузнов во время выступления на международном банковском форуме Ассоциации банков России (АБР), передает корреспондент «Ведомостей».

ИИ требует значительных инвестиций в вычислительные мощности, инфраструктуру обработки данных, подготовку профессиональных кадров и др., перечислил Гузнов. Поэтому растут риски монополизации крупными игроками технологий на основе ИИ. «Наверное, результат получат только те, кто имеет возможность уже сейчас вложиться. И это формирует определенные перекосы», – пояснил он.

Гузнов выделил риски доступа к данным, которые используются для обучения ИИ. Он упомянул, в частности, утечки, фальсификацию данных, вероятность мошеннических атак на них.

Среди этических рисков статс-секретарь ЦБ видит проблемы объяснимости алгоритмов и определения основных факторов, которые лежат в основе выдаваемых ИИ рекомендаций. Все это влечет угрозу принятия предвзятых или дискриминационных решений. «Это не только наша проблема, она сейчас осмысляется философски – проблема сочетания человеческого интеллекта и искусственного. Так как ИИ быстрее учится естественному языку, он может гораздо искуснее формировать иллюзии, подбирать соответствующий контекст», – пояснил Гузнов.

Перечисленные риски характерны не только для финансового сектора, но и для других сфер, уточнил он.

Банк России выделил несколько классов задач, которые уже сейчас решаются с помощью ИИ. Для финансового рынка это классификация платежей, прогнозирование индекса потребительских цен и инфляции, анализ пресс-релизов кредитных рейтинговых агентств, рассказал Гузнов.

В области банковского надзора разработана и апробируется система раннего обнаружения возможных проблем – так называемая система надзорных импульсов, рассказал Гузнов. Она с учетом планируемой калибровки и донастройки должна дать возможность выявлять недостатки в банковской деятельности на более ранних стадиях, пояснил он. «Это именно надзорные импульсы: выявляются на уровне анализа больших данных определенные тенденции. ИИ пока в надзорной деятельности не принимает решения», – подчеркнул Гузнов.

В вопросе регулирования применения искусственного интеллекта ЦБ не предполагает каких-то радикальных решений, но «вопрос стоит», сказал Гузнов. «Можно начать с того, что какие-то образы, какие-то тексты, какие-то вещи помечать, что они созданы ИИ», – предложил он.

Банк России до конца 2023 г. планирует выпустить консультативный доклад по искусственному интеллекту, в котором затронет вопросы применения и регулирования ИИ в сфере финансов, говорила в начале сентября первый зампред ЦБ Ольга Скоробогатова. Банк России также намерен создать центр компетенций по ИИ. Регулятора в первую очередь интересует вопрос безопасности данных и операций клиентов. И уже на основе общественных обсуждений ЦБ будет принимать решение о необходимости регулирования ИИ.

Опережающее регулирование искусственного интеллекта приводит к тому, что принявшие его страны становятся «пустыней» с точки зрения привлекательности для компаний и специалистов в этой области, говорил предправления Сбербанка Герман Греф на ВЭФ 12 сентября. Он лично выступает за аккуратное и взвешенное регулирование, которое «не убьет конкурентоспособность страны». 

Объем рынка ИИ в прошлом году, несмотря на санкции, вырос примерно на 18% и достиг 650 млрд руб., в этой сфере работают около 1000 отечественных компаний, рассказал премьер-министр Михаил Мишустин 26 сентября на стратегической сессии кабмина. В целом показатель внедрения ИИ в отраслях российской экономики составляет около 20%, лидером остается финансовый сектор, где такие технологии используют уже 95% компаний, обратил внимание премьер. В 2024 г. правительство РФ выделит 5,2 млрд руб. на развитие в стране технологии ИИ, сообщил Мишустин.