Какие угрозы несет человечеству искусственный интеллект

В 1950 г. британский математик Алан Тьюринг предложил тест для определения мыслящей машины. Человек должен задавать вопросы двум собеседникам, про которых знает лишь то, что один из них – человек, а другой – компьютер. Машина проходила тест, если ведущий определял, кто есть кто, неверно или даже сомневался. Сейчас компьютерам уже удается запутать судей теста Тьюринга, выдавая себя за детей.

Некоторые эксперты уверены, что подлинный ИИ будет последним изобретением человечества, говорит руководитель робототехнического центра «Сколково» Альберт Ефимов. Хотя он не согласен с этим, но подтверждает, что ИИ несет некоторые риски – исчезновение ряда профессий, разобщение людей и даже потерю естественных человеческих навыков. По мнению Ефимова, точка невозврата для человечества будет пройдена, когда какое-либо государство даст всезнающему ИИ право на насилие. Ростки этого уже есть, полагает он и в качестве примера приводит административные штрафы за превышение скорости и парковку.

Тьюринг задумался о способах выявления роботов задолго до появления первых из них. Теперь роботы везде: летают в космос, собирают автомобили, пылесосят квартиры, ищут в интернете информацию по запросу человека. Но настанет ли день, когда робот сочтет, что он лучше знает, чем ему заниматься?

В 1984 г. на экраны вышел фильм Джеймса Кэмерона «Терминатор», в сюжете которого заложено опасение, что созданный человеком искусственный интеллект (ИИ) – суперкомпьютер Skynet – однажды выйдет из-под контроля человечества и уничтожит его.

Возможно, в реальности дело обстоит не так драматично, тем не менее год назад десятки известных ученых, предпринимателей и инвесторов подписали открытое письмо с призывом уделять более пристальное внимание безопасности и общественной полезности разработок в области ИИ. Среди них – основатель компаний SpaceX и Tesla Илон Маск и астрофизик Стивен Хокинг.

Собеседники «Ведомостей» соглашаются, что ИИ несет угрозы, пропорциональные его пользе.

Skynet у дверей

В 2015 г. на технологии ИИ пришлось примерно 5% мировых венчурных инвестиций, составивших $47,2 млрд, подсчитал партнер KPMG Еркожа Акылбек. В 2013 г. доля таких инвестиций составляла лишь 2%. В технологии ИИ чаще всего вкладываются IT-романтики, верящие, что он сможет заменить человеческий труд, рассказывает Акылбек. Как правило, они старше 30 лет, склонны к риску и раньше уже инвестировали в IT-компании.

Сфера ИИ еще молода и, хотя в ней еще не было ни одного IPO, она успешно привлекает инвестиции как на венчурном рынке, так и от компаний ранга Goldman Sachs или Shell, говорит управляющий партнер венчурного фонда Prostor Capital Алексей Соловьев.

Пока ожидания от ИИ выше реальных доходов, отмечает управляющий партнер фонда GVA Vestor.in Павел Черкашин. Сейчас самые доходные отрасли – финансы и реклама, все популярнее становятся приложения в страховании и здравоохранении, где также необходимы анализ больших данных и поиск неочевидных закономерностей.

Уже сегодня компьютерные системы могли бы гораздо эффективнее управлять корпорациями, привлекая людей только для решения нестандартных задач, для которых еще нет шаблона. Черкашин прогнозирует, что именно в финансовой сфере, где скрытые знания дают максимальную отдачу, раньше других появится аналог Skynet. Такой финансовый гений никогда бы не ошибался, приносил доходность и проводил миллиардные сделки без бюрократии. И только с появлением у него таких же роботизированных конкурентов у человека могли бы начаться проблемы, рассуждает Черкашин. Но опасна не сама технология, а то, для чего ее применяют, уверен он.

Одна из проблем – ответственность за действия ИИ, говорит Акылбек. Кто виноват, если самоуправляемая машина навредит пешеходу, – производитель или владелец? Роботы анализируют финансовую отчетность, но достаточно ли этого для принятия решения и кто будет отвечать за ошибки?

Бояться стоит людей

На самом деле люди боятся технического прогресса, считает замдиректора ABBYY (разрабатывает системы распознавания текста) Татьяна Даниэлян, занимающаяся ИИ. По ее словам, ИИ – это лишь быстрая обработка большого объема информации, на что человек не способен. Страх объясняется боязнью потерять рабочие места, уверена Даниэлян. Но есть отрасли, где применение ИИ неизбежно: так, операции на глазах уже давно делают роботы.

Есть у людей и страх, что в какой-то момент они не смогут отличить человека от робота и тот им навредит, ведь его мотивы не человеческие и абсолютно непонятны, говорит Даниэлян. Это предрассудок, человек всегда сможет отличить настоящего человека от робота, считает она.

Третьим страхом человечества Даниэлян называет «восстание машин». Этот страх связан с недостатком информации, бояться совершенно нечего, успокаивает она. Людей отличает творческое мышление, т. е. свойство принимать необъяснимое и непрогнозируемое решение в разных ситуациях. У робота творческого мышления никогда не будет, ведь он так или иначе обращается к базе знаний за указаниями, а что загрузить в эту базу, решает человек. Поэтому если восстание машин и случится, то потому, что в нем будет заинтересован кто-то из людей, делает вывод Даниэлян.