Эксперты призвали запретить роботов-убийц

Более 1000 специалистов по искусственному разуму в открытом письме призвали ввести глобальный запрет на создание роботов-убийц, чтобы предотвратить начало новой гонки вооружений. Под этим письмом подписались известный ученый Стивен Хокинг, основатель и гендиректор Tesla Илон Маск и сооснователь Apple Стив Возняк.

Петиция будет представлена во вторник на международной конференции в Буэнос-Айресе, посвященной искусственному разуму. Она предупреждает, что разработка вооружений, способных идентифицировать и атаковать цели без какого-либо вмешательства человека, станет «третьей революцией в ведении войны» после изобретения пороха и ядерного оружия. В ней обрисовываются сценарии будущих конфликтов, напоминающие кино-франшизу «Терминатор», и подчеркивается, что автономное вооружение идеально подходит для убийств, дестабилизации государств, выборочного уничтожения этнических групп и других целей. «Поэтому мы уверены, что гонка вооружений, обладающих искусственным разумом, не принесет пользы человечеству. Есть много способов, как искусственный разум может сделать сражения менее опасными для людей, особенно гражданских лиц, при этом не создавая новых орудий для убийства людей», - сказано в письме.

Хотя солдаты-роботы еще не созданы, быстрый прогресс в компьютерных технологиях и создании искусственного разума повышает вероятность того, что это может случиться в ближайшие 20 лет. В ООН так обеспокоены этой проблемой, что в 2014 г. организация впервые провела собрание, на котором обсуждались соответствующие риски.

Роботизированное вооружение может сделать человечество «совершенно беззащитным», также предупреждал ранее Стюарт Расселл, специалист по искусственному разуму из Калифорнийского университета в Беркли и один из подписавшихся под письмом.

Это уже второе в этом году письмо, посвященное этой проблеме, которое скоординировано организацией Future of Life Institute (FLI). Но в этой петиции содержится более сильный призыв к запрету на создание роботов-убийц. FLI была основана добровольцами, в том числе сооснователем Skype Яаном Таллинном, а Маск и Хокинг входят в ее научно-консультативный совет.

Идея создания роботов-убийц нравится многим военным, поскольку они могут дать преимущество перед противником, уберечь собственных солдат, и в долгосрочной перспективе они могут оказаться более дешевыми, чем, например, военные самолеты. Пентагон - один из главных сторонников исследований в данной области. В 2013 г. Office of Naval Research, один из его исследовательских центров, выдал грант в размере $7,5 млн ученым нескольких университетов, в том числе Йельского, Тафтса, Брауна и Политехнического института Ренсселера, чтобы выяснить, могут ли роботы научиться отличать верное от неверного.

На Западе опасаются, что если они не будут развивать данные технологии, то могут уступить лидерство в новой гонке вооружений, например Китаю. Великобритания недавно выступила против полного запрета на разработку таких роботизированных систем.

На разных этапах развития ряд автономных систем уже есть в военно-воздушных силах. Так, в 2013 г. США приземлили на авианосец автономный беспилотник, созданный Northrop Grumman. А британская BAE Systems разработала прототип беспилотного военного самолета, названный Taranis, который должен самостоятельно летать и выбирать цели.

Перевел Алексей Невельский