Роботы-убийцы
Перспектива использования автономных систем вооружения ставит перед человечеством глубокие этические вопросы
Дискуссия вокруг разработок автономных систем вооружения (АСВ) заново ставит старые морально-этические вопросы. Особенность нынешней ситуации в том, что у человечества есть возможность подстраховаться от ошибок, осознание которых обычно происходит постфактум.
Письмо с призывом не допустить разработок «роботов-убийц», которое в числе прочих подписали предприниматель Илон Маск, физик Стивен Хокинг и сооснователь Apple Стив Возняк, было размещено на сайте Future Life Institute в понедельник. По мнению авторов, разработка искусственного интеллекта возможна уже через несколько лет. Его использование военными будет означать третью – после изобретения огнестрельного оружия и атомной бомбы – революцию в методах ведения войны. Роботизация военных действий снимает психологические барьеры и снижает политические издержки, затрудняющие сегодня решение начать войну: отправить в другую страну роботов-убийц морально и политически легче, чем собственных граждан.
АСВ застрахованы от ошибок, связанных с человеческим фактором, говорят их защитники. Роботы способны точнее и полнее обрабатывать данные, необходимые для принятия решений, и, будучи запрограммированы следовать законам войны, в отличие от людей следуют им неукоснительно.
Но главный вопрос, как показывает в своих работах философ из Австралии Роберт Спарроу, один из наиболее авторитетных экспертов в этой области, – вопрос ответственности. Если решение об убийстве человека принимает не человек, а машина, это не выводит убийство из сферы морали, а только еще больше распыляет и опосредует ответственность за него.
Стремление уйти от ответственности за убийство себе подобных – одно из древнейших человеческих стремлений. Примеры ее распыления – методы казни, от архаичного побиения камнями (когда нельзя определить, от чьей руки наступает смерть) до современной технологии смертельной инъекции (происходящей автоматически и с участием нескольких человек). Примеры опосредования – практика ведения войны, когда солдат исполняет приказ командира.
Но снятие психологического барьера и технологическое упрощение процесса всегда оборачиваются только большей кровью. В революционной Франции введение – из «соображений гуманности» – в практику гильотины привело к тому, что за год (с 1793 по 1794 г.) было казнено более 40 000 человек. В XX в. сведение убийства к безличной технологии – в концентрационных лагерях и с помощью оружия массового уничтожения – обернулось ни с чем не сравнимыми жертвами.
Остановить прогресс невозможно, а потому убедительнее всего выглядит предложение (того же Спарроу и др.) решить дилемму путем более четкой регламентации ответственности, когда за действия военной робототехники отвечают вполне определенные люди. Может быть, сознание неизбежной ответственности позволить усвоить уроки предыдущих технологических революций. Хотя надежда эта, прямо сказать, выглядит призрачной.