Может ли робот стать президентом

Станет ли следующим президентом робот? Тут нет ни шутки, ни намека.

Несколько недель назад по интернету вихрем пролетела новость о новозеландском боте-политике SAM. Это система на основе искусственного интеллекта (ИИ), которая общается с пользователями на общественно-политические вопросы. SAM способен самосовершенствоваться и с каждым днем все лучше разбирается в политической ситуации и настроениях электората, оставаясь беспристрастным. Одновременно он ничего не забывает. Эти качества по замыслу создателей должны позволить роботу SAM занять в 2020 г. государственную должность.

Удивительным образом эта история коррелирует с рассказом Айзека Азимова «Улики» из цикла «Я, робот», в котором были представлены три закона робототехники. Его герой – прокурор, ни разу не отправивший человека на смертную казнь. Невероятно объективный и рассудительный, он имел кристально чистую репутацию. В какой-то момент все эти качества заставили людей думать, что он не человек, а робот. Но он смог пройти проверку. И стал сначала мэром города, а потом координатором (считай, президентом) планеты Земля. И лишь в конце рассказа выясняется: президент Земли все же наверняка был роботом.

Сможет ли искусственный суперинтеллект «обнулить наши мозги», как опасается премьер Дмитрий Медведев, и станет ли он управлять страной? Последние несколько лет об этом говорят во всех странах. В Великобритании даже создана парламентская группа по применению технологий ИИ. Китай обозначил необходимость применения ИИ в госуправлении в июльском «Плане развития технологий искусственного интеллекта нового поколения».

Машинное обучение и блокчейн в госуправлении обсуждаются и в России: как технологии могут не только помогать чиновникам, но и заменять их – например, в правоприменении, а постепенно и в законотворчестве. В мае 2017 г. в Госдуме уже поднимался вопрос, можно ли будет использовать роботов для написания законов (ответ был предсказуемый: пока нет).

Чтобы понять, есть ли у ИИ будущее в политике, достаточно ответить на вопрос: а что такое ИИ? Несмотря на то что технологии ИИ пережили сначала «весну» (всеобщий интерес), затем «зиму» (резкий спад в финансировании разработок), а сейчас снова оказались в тренде, среди ученых и разработчиков, по существу, так и не появилось единого понимания этого термина. Максимум, с чем удалось согласиться относительному большинству ученых, – что имеет смысл разделить технологии «прикладного» ИИ и «сильного» ИИ.

Пример сильного ИИ – это робот-президент из рассказа Азимова. Он не просто ведет себя как человек – он умнее, объективнее и вообще лучше его в универсальном плане.

Пример прикладного ИИ – упомянутый чат-бот SAM. Он лучше человека в одной-двух областях. Например, в запоминании информации, что легко сделать, имея неограниченный доступ к облачным хранилищам. Но в остальном он совершенно бесполезен и уж, конечно, не конкурент человеку.

Так будут ли роботы управлять людьми? И если да, то какие – как робот-президент Земли Азимова или как новозеландский робот SAM?

Отчасти роботы уже управляют нами: технологии прикладного ИИ уже применяются практически повсеместно.

Например, умные технологии уже активно помогают правоохранителям, распознавая данные с камер видеонаблюдения. В китайском Циндао прикладной ИИ помог за один день арестовать 25 преступников, просто «узнав» их лица на камерах наблюдения на фестивале (к слову, в Москве введение такой системы было анонсировано в конце сентября 2017 г.).

Вашу кредитную заявку, вполне возможно, обрабатывает робот. Роботы все чаще анализируют ваше резюме. ИИ виртуозно (ну или по крайней мере лучше вас) управляет самыми современными машинами.

Чем шире понятие ИИ, тем больше область применения этой технологии. На недавнем круглом столе, прошедшем в рамках Российской ассоциации искусственного интеллекта (ассоциация, к слову, создана еще в 1988 г.), довелось поучаствовать в небольшой дискуссии о том, сколько устройств в мире на данный момент связано с технологиями ИИ. Некоторые ученые заявили о миллиардах экземпляров (в зависимости от трактовки термина).

То есть постепенно практически во всех сферах жизни начинают внедряться узкоспециализированные роботы. Они совсем не похожи на человека, они сильно уступают нам практически во всем. Но мы даже не всегда замечаем, как делегируем им все больше и больше функций.

В итоге получается любопытный конфликт ожиданий. С момента появления роботов в фантастических рассказах люди пытались предсказать, смогут ли умные машины управлять странами и народами. Они представлялись нам подобием человека – неотличимыми от нас андроидами с искусственными органами, которые умнее, объективнее и даже красивее настоящих людей, – и в один прекрасный момент они берут власть в свои руки.

Правда, они пока так и не появились, эти роботы азимовского типа. Но при этом мы уже вполне серьезно обсуждаем и цифровизацию бюрократического аппарата, и автоматизацию многих элементов деятельности чиновника, а ведь еще 10 лет назад о робоконвейере госуслуг нельзя было и подумать.

Почему же мы сейчас готовы всерьез говорить о внедрении ИИ в госаппарат, ведь технологии обсуждаются очень давно? Ответ, как кажется, в том, что мы сами постепенно становимся к этому психологически готовы. Все больше людей воспринимают и принимают достижения прогресса как само собой разумеющееся. Именно это позволяет нам вообще допустить мысль об управлении человека роботом.

Хотя глобальное управление государством силами сильного, человекоподобного ИИ нам все еще кажется фантастическим и недопустимым, мы постепенно доверяем прикладному ИИ и роботизированным устройствам в мелочах. Действительно, сейчас мы все не только пользуемся мобильными – мы давно уже воспринимаем смартфоны как нечто личное, управляющее нашим временем, памятью и заботами. Большинство из нас уже не пугают виртуальные операторы в колл-центрах. Никто не прыгает в сторону при виде сервисных роботов. Все больше людей готовы ложиться под скальпель роботизированного хирурга. Мы просто привыкли к этому.

А наши дети уже воспринимают многие прикладные технологии как данность – у них нет психологического порога, как у нас, взрослых. Они не будут, как мы, ждать изобретения умных роботов из рассказов Азимова (многие их даже не читали). Поэтому переломная точка – момент, когда люди будут готовы доверить управление именно роботу, а не человеку, – все ближе. И вероятно, переход этого последнего психологического барьера произойдет намного раньше, чем кто-либо ожидал.

Среди нас все больше именно таких людей – просто пока они еще очень маленькие. Они сейчас в школе и проходят там вот это: «Земля наша велика и обильна, а порядка в ней нет. Приходите княжить и владеть нами»...