Как наделить беспилотные авто всего мира единой моралью

В скором времени беспилотным автомобилям придется делать критический выбор – тот самый, что стоит перед водителями: спасти пешехода и пожертвовать собой и пассажирами или сбить пешехода.

Как показало исследование Массачусетского технологического института (Massachusetts Institute of Technology, MIT), опубликованное в журнале Nature, жители регионов мира разнятся во мнениях, чью жизнь должен спасать искусственный интеллект: пассажира беспилотника или человека на пешеходном переходе? А если пешеход нарушает правила дорожного движения – кого?

Ученый из MIT Эдмонд Авад предложил участникам исследования Moral Machine выбирать между мужчинами и женщинами, детьми, взрослыми и пожилыми, спортивными людьми и теми, кто склонен к полноте, людьми и животными. Выбор был тяжким: предлагалось оставить в живых либо пассажиров беспилотника, либо пешеходов. У беспилотника уже была задана траектория, можно было ее изменить, а можно – не менять.

В опросе MIT участвовало 2,3 млн человек 233 стран и территорий мира. Все вместе участники приняли 40 млн решений, которые удалось отчетливо разделить по культурным и географическим признакам на три части.

В одну группу вошли жители Северной Америки и большей части Европы (Россия в том числе), где доминирующая религия – христианство. Вторую исследователи составили из азиатских стран, в том числе Японии, Индонезии, Пакистана, Индии и Египта. В третью попали, в частности, южные страны Центральной и Южной Америки, а также Франция и ее колонии. Жители именно последней группы стран более других склонны ценить жизнь женщин, детей и людей, испытывающих тягу к спорту или с высоким социальным статусом, показало исследование. Прочие европейцы и американцы предпочитали не менять поведение беспилотника, что для «южных» респондентов почти немыслимо. А азиаты более других были склонны щадить пешеходов, а не пассажиров.

Жители стран с высоким уровнем госуправления (например, Финляндия и Япония) больше склонялись к тому, чтобы задавить пешехода, переходящего дорогу в неположенном месте. Жителей таких стран, как Пакистан или Нигерия, это волновало меньше.

На выбор влияло и экономическое неравенство. Жители Финляндии, где разрыв между богатыми и бедными невелик, затруднялись делать между ними выбор. Респондент из Колумбии (где неравенство существенно больше) уверенно «убивал» менее обеспеченного.

Большинство производителей беспилотников не комментировали итоги изысканий MIT, сетует Nature. Лишь Audi отметила, что исследование должно повлечь важную дискуссию.

Германия, где множество крупных автопроизводителей, уже определила отношение к этой проблеме. В 2017 г. специальная комиссия по этике беспилотного вождения министерства транспорта Германии представила отчет, в котором в случае неминуемой аварии признано недопустимым любое деление по полу, возрасту и физическим особенностям. Отчет отдает однозначный приоритет жизни и здоровью человека перед материальным ущербом. Комиссия руководствовалась идеей, что беспилотник становится причиной меньшего числа аварий, чем человек.

В Германии меньше всего желающих обзавестись собственным беспилотником – 24%, по данным Ipsos. Среднемировой показатель – 42%, в России желающих – 51%. 67% опрошенных россиян хотели бы использовать беспилотный автомобиль для ежедневных поездок из пригорода на работу, а также по шоссе. А вот возить пассажиров на беспилотнике россияне не спешат.

Суть беспилотной технологии как раз в том, чтобы у машин не возникало морального выбора, рассказывает представитель «Яндекс.Такси» (разрабатывает беспилотный автомобиль): они оборудованы огромным количеством электроники, сенсоров, камер и поэтому избегают ситуаций, свойственных водителю из-за его ограничений в восприятии и реакции.

Машина действует так, как ее запрограммировали, поэтому решение этических проблем зависит от заложенной системы ценностей, которые в разных странах различаются, рассуждает сооснователь израильской компании Foretellix (тестирование беспилотников) Гил Амид. Раз автопроизводители адаптировались к правостороннему или левостороннему движению, ничто не мешает сделать то же самое и с этикой, уверен он.

Сейчас искусственный интеллект носит национальный характер – он наследует мораль разработчиков и устройство стран, где его обучали, говорит президент компании Cognitive Technologies Ольга Ускова.