Искусственному интеллекту добавят совести

Комитет министров Совета Европы утвердил декларацию о рисках при принятии решений с помощью искусственного интеллекта (ИИ). В документе звучит призыв обеспечить в случае использования соответствующих алгоритмов «выполнение этических норм». Что это значит?

Стремительное развитие и проникновение в повседневную жизнь технологий, связанных с ИИ, и экспоненциальный рост объема данных действительно требуют все более вовлеченного обсуждения связанных с ними этических вопросов. Но в первую очередь важно разобраться, что мы имеем в виду, говоря об ИИ, так как даже среди ученых и разработчиков это понятие до сих пор трактуется весьма широко.

В первую очередь речь обычно идет о решениях на основе технологий машинного обучения для выполнения сложных прикладных задач – от распознавания изображений и речи до управления транспортом. Конкретный пример – тренд на персонализацию сервисов. Сейчас это один из основных способов применения ИИ: система собирает данные о клиентах, анализирует их поведение, формирует рекомендации и делает индивидуальные предложения. Этично ли таким образом вмешиваться в личный выбор? Другой пример использования больших данных и ИИ – медицинская генетика. С развитием молекулярной биологии, расшифровкой структуры ДНК и прорывом в области редактирования генома тема биоэтики как автономной дисциплины на стыке естественно-научного и философского знания становится центральной. Человечество накопило огромный массив геномных данных, в том числе о потенциальных генетических заболеваниях и индивидуальных рисках. Но морально ли, допустимо ли этически, если по геному с помощью ИИ мы начнем определять наличие у человека склонностей, например, к футболу или к музыке и исходя только из этого решать, кого брать в футбольную секцию, а кого в музыкальную школу?

Еще один пример – финтех. Практически каждый банк сейчас собирает множество параметров о каждом клиенте, и объем информации постоянно растет. Концепция open banking, появившаяся в ответ на запрос клиентов банков на полный контроль над их данными, уже стала мировым трендом. В ближайшие три года она может навсегда изменить наш привычный уклад жизни. Движимый развитием технологий и конкуренции, open banking призывает банки использовать стандартные интерфейсы доступа к данным клиента. Эта открытость означает, в частности, что нефинансовым организациям будет становиться все проще предоставлять финансовые услуги. Почему open banking навсегда изменит традиционную банковскую систему? Ведь банки уже применяют ИИ и машинное обучение для того, чтобы персонализировать свои продукты и услуги, совершенствуя клиентский опыт. Дело в том, что банкам все больше придется конкурировать с технологическими компаниями, такими как Amazon, Facebook, Google и Apple, у которых, во-первых, уже есть огромный дополнительный массив клиентских данных, во-вторых, опыт работы с ними.

Во всех этих примерах мы сталкиваемся с одним общим вопросом: насколько этично использовать клиентские данные для максимизации прибыли? И где та граница, за которой польза для клиентов подменяется манипуляцией их поведением, а обычные бизнес-решения – системной дискриминацией?

Для ответов на эти и другие вопросы человечеству предстоит создать систему этических координат и стандартов в сфере ИИ. Сложность задачи, в частности, в том, что формализовать этику не так просто. В различных обществах действуют собственные этические нормы, которые, в свою очередь, могут меняться со сменой поколений или в ходе политических преобразований. Значит, перед человечеством стоит еще одна сложная задача – преодолеть разногласия и договориться о единообразных этических законах использования больших данных в сфере ИИ. И крайне важно в этой части будет грамотно распределить роли между государством, частным бизнесом и децентрализованными решениями, а также избежать чрезмерного регулирования.

Такие стандарты уже разрабатываются – например, Институтом инженеров в области электротехники и электроники (Institute of Electrical and Electronics Engineers, IEEE), объединяющим ведущих инженеров мира в различных областях. Эти стандарты никак не ограничивают разработку ИИ, а лишь задают ей направление развития. Так, например, в США в банках все больше говорят о том, что специалисты, технологии и организации, работающие с клиентскими данными, должны проходить сертификацию в области этики использования данных. В ближайшие несколько лет внедрение этических норм при использовании решений на основе ИИ станет главным конкурентным преимуществом в бизнесе, а этичное использование персональных данных – мировым трендом десятилетия. Бизнес-партнеры и клиенты будут иметь дело с теми сервисами и службами, в этичности которых они гарантированно уверены.

Такой курс в России только-только наметился. В конце 2020 г. в Минэкономразвития была подписана программа стандартизации по приоритетному направлению «Искусственный интеллект», на основании которой в течение 2021–2024 гг. в России будут разработаны стандарты, регламентирующие безопасность систем ИИ. Главное – не опоздать.