Человек больше не нужен

Автономные системы – это очень широкий класс решений, от всем известного ChatGPT до беспилотных автомобилей, в которые бизнес во всем мире уже вложил, по данным McKinsey, более $200 млрд. Вместе с тем массовое распространение техники, работающей без помощи человека, ставит перед людьми огромное количество юридических и этических вопросов. Как предупреждают многие эксперты, без их решения человечество может столкнуться с огромными рисками.

Понятие «автономные системы» появилось сравнительно недавно, отчасти как замена излишне популяризированному массовой культурой слову «робот». В широком смысле это любая система, способная выполнять действия без участия человека. Часть ученых использует более точный термин Unmanned System, т. е. буквально «система без человека».

Автономные системы не обязательно должны обладать какими-то средствами принятия решений и анализа. Например, программные роботы – это часто достаточно примитивный код, выполняющий однотипные действия, к примеру переносящий карточки товаров определенного типа из одной таблицы в другую. При этом космический корабль – пожалуй, один из самых сложных объектов, созданных человеком, – тоже может рассматриваться как автономная система.

В целом под определение автономных систем подпадает два больших класса решений. Первый – это автономные аппараты: автомобили, летательные средства, поезда, роботы и т. д. Второй – автономные решения на базе программного обеспечения. Они также бывают разнообразными, например, получивший всемирную известность ChatGPT обладает всеми признаками автономной системы: он способен к самообучению, выбору различных вариантов действий и может долгое время выполнять свои задачи без вмешательства человека. Однако чаще всего софтверные автономные системы обладают намного меньшей известностью и решают достаточно узкие задачи, например выявляют угрозы в сфере компьютерной безопасности или ищут базы террористов по спутниковым снимкам.

Компания Market Digits прогнозирует, что рынок автономного искусственного интеллекта (ИИ) и автономных агентов вырастет с $4,8 млрд в 2023 г. до $64,69 млрд в 2030 г. При этом оценивается сегмент самих решений, т. е. если автономной системой оснащен самолет, то учитывается только стоимость самого решения, а не объекта в целом.

Интеллектуальная автономия

ИИ чаще всего является центром автономных систем, именно он дает им возможность длительное время действовать самостоятельно. Современные способы обучения нейросетей позволяют алгоритму не только решать простые логические задачи, но и заниматься долгосрочным планированием, выбирать оптимальный маршрут и стратегию поведения. Активно используются технологии ИИ и обучение с подкреплением. Данный подход имитирует естественный путь обучения методом проб и ошибок (алгоритм заставляет машину максимизировать «вознаграждение», которое она получит за правильный шаг, подобно тому как люди и животные приобретают навыки на основе собственного опыта).

Первая идея, которая посетила человечество еще несколько десятков лет назад, – это возможность создания роботов (само слово придумано чешским художником Йозефом Чапеком в 1920 г.), которые будут вместо человека выполнять различную работу, в том числе в космосе, в сложно доступных местах или в опасных ситуациях. До сих пор человечество не так уж далеко продвинулось в данном направлении: многофункциональные роботы, обладающие достаточной степенью автономности, так и не появились. Однако роботизированные механизмы стали неотъемлемой частью промышленного производства в развитых странах.

В частности, Boston Dynamics, известная созданием четвероногой «собаки-робота» Spot и человекоподобного Atlas, вывела на рынок логистического робота Stretch. Этот автономный аппарат разгружает контейнеры, считывает информацию на коробках, сортирует их и помещает на транспортные ленты согласно предназначению. Значительным потенциалом обладают решения от компании KUKA AG (с 2016 г. принадлежит китайской группе компаний Midea). Кроме выпуска промышленных роботов KUKA AG занимается контрактным производством, включая прецизионную сварку на своих полностью автоматизированных машинах. А японская Yaskawa Electric Corporation производит роботов для самых разных отраслей: электрооборудование и электроника, полупроводники, биомедицина, пищевая промышленность, логистика и пр.

Робототехника значительно расширяет потенциал программно-аппаратных автономных систем. Именно она играет жизненно важную роль в автономных системах, обеспечивая автоматизацию в производстве, добыче полезных ископаемых и оборонном секторе. Коллаборативные роботы (или коботы) широко применяются в промышленности, они работают бок о бок с людьми, повышая производительность и безопасность.

Достижения в области робототехники и автономных систем будут способствовать улучшению качества медицинской помощи. Одним из лидеров в сфере автономных систем для здравоохранения сегодня является Intuitive Surgical – медицинская технологическая компания, создавшая хирургическую систему Da Vinci, которая позволяет врачам выполнять сложные операции с высокой точностью.

Еду сам

Самый масштабный с точки зрения инвестиций рынок – это автономные транспортные средства. Сюда входят не только беспилотные легковые и грузовые автомобили, автономные поезда, трамваи и корабли. Отдельный огромный рынок – это дроны как гражданского, так и военного назначения, а также роботы и дроны-доставщики. Согласно отчету McKinsey, с 2010 г. инвесторы вложили почти $330 млрд более чем в 2000 компаний, работающих в сегменте «автоматизация, подключение, электрификация и интеллектуальная мобильность» (automation, connectivity, electrification and smart mobility, ACES), причем инвестиции в эти направления растут быстрыми темпами. Около двух третей от общего объема инвестиций, или $206 млрд, было направлено на технологии автономных транспортных средств (AV) и интеллектуальную мобильность. По оценке компании Research and Markets, мировой рынок автономных автомобилей достиг почти $931,34 млрд в 2022 г., увеличившись совокупными годовыми темпами роста на 9,6% с 2017 г. Ожидается, что объем рынка вырастет до $1,651 трлн в 2027 г. и к 2032 г. достигнет объема в $2,953 трлн.

Со временем можно ожидать, что во всех видах перевозок начнет широко использоваться автономный транспорт, который повысит скорость доставки и снизит ее стоимость. К примеру, компания Starship, созданная сооснователями Skype Ахти Хайнлой и Янусом Фриисом, продает роботов-доставщиков ритейлерам и компаниям, работающим в сфере электронной коммерции в Европе и США. Starship сообщала более чем о 5 млн доставок, осуществленных ее роботами. В России направление роботов-доставщиков развивает компания «Яндекс». Автоматизированную доставку можно заказать в нескольких районах Москвы, также у «Яндекса» был пилотный проект по роботизированной доставке с «Почтой России», однако он закрылся.

По данным Grand View Research, коммерческий рынок дронов в 2022 г. составил $19,89 млрд и продолжит рост на 13,9% в год до 2030 г. В России уже сложился достаточно крупный, хотя и молодой рынок гражданских беспилотных авиационных систем. По данным Минпромторга, в 2022 г. в РФ он оценивался в 50 млрд руб. По прогнозам, годовой объем рынка может вырасти до 1 трлн руб. в ближайшие годы. В России насчитывается порядка 100 компаний, занятых в сфере производства гражданских БПЛА, по информации Минпромторга. Однако страна пока не обеспечивает собственных потребностей в этой технике: при годовом объеме рынка в 32 000 аппаратов (без учета сверхлегких беспилотников) около 20 000 поступает из-за рубежа.

Дроны используются для картографирования местности, обнаружения неполадок на линиях электропередачи, решения различных задач в сельскохозяйственном секторе, например обнаружения сорняков и контроля передвижений скота. Логистические дроны могут существенно упростить задачи учета на многоэтажных складских комплексах за счет легкого доступа к труднодоступным объектам.

Независимый код

Автономные решения в сфере программного обеспечения решают различные задачи – как примитивные, так и крайне сложные. В частности, программные роботы Robotic process automation (RPA) могут перенести данные из одной базы в другую, соблюдая заданные правила. В 2019 г. Gartner назвала RPA наиболее быстрорастущим сегментом делового ПО. В 2022 г. Grand View Research оценила объем рынка в $2,3 млрд и спрогнозировала совокупный среднегодовой рост в 39,9% до конца года.

Более сложные софтверные алгоритмы умеют анализировать свое окружение и самомодифицироваться, чтобы наиболее эффективно решать поставленную задачу. К примеру, решения в сфере кибербезопасности на базе ИИ могут самостоятельно обнаруживать новые типы угроз и создавать способы защиты от них. Так, они показали высокую эффективность в защите от распределенных атак типа отказ в обслуживании (Distributed Denial of Service, DDoS). Для организации такой атаки злоумышленник сначала заражает вирусом тысячи умных устройств по всему миру, а затем «заставляет» их постоянно обращаться к одному сайту, в результате чего он становится недоступен для обычных пользователей. Системе безопасности необходимо в режиме реального времени отличать обычных пользователей от зараженных вирусом «агентов» хакера.

Системы на базе ИИ способны решать трудные задачи, в том числе требующие анализа больших объемов данных и поиска сложных паттернов. Например, в фарме они используются для того, чтобы при помощи перебора вариантов молекул находить новые вещества с полезными свойствами. По оценке компании Data Bridge Market Research, объем рынка решений ИИ для поиска новых лекарств может составить $13,9 млрд к 2030 г.

Автономные системы также хорошо справляются с анализом спутниковых данных. МЧС России выпустило приложение «Термические точки» для автоматического информирования о риске возгорания, в котором представлена подробная карта с нанесенными термическими аномалиями, которые уловили спутники, следящие за территорией России из космоса. Данный механизм позволил повысить точность расчета риска пожара до 92,5%, а также в 3 раза ускорил реагирование на природные пожары.

Восстание машин

Широкое распространение автономных систем ставит перед человечеством много юридических, этических и философских вопросов. К примеру, кто должен отвечать за аварию с участием беспилотного автомобиля, в каких случаях можно создавать дипфейки умершего человека, должны ли компании раскрывать, как именно работают рекомендательные алгоритмы, отвечающие за то, как выглядит соцсеть или страница онлайн-кинотеатра для каждого конкретного пользователя, может ли такси-сервис назначать стоимость поездки, исходя из профиля пассажира?

В октябре 2021 г. российский бизнес совместно с правительством разработал и принял кодекс этики в сфере ИИ. Среди компаний, подписавших документ, – «Яндекс», VK (бывшая Mail.ru Group), «Сбер», МТС, «Ростелеком», InfoWatch и «Циан». В работе над документом также участвовали Аналитический центр при правительстве и Минэкономразвития.

Весной этого года Европарламент принял закон под названием AI Act, который устанавливает правила и требования для разработчиков моделей ИИ. Они включают большое количество ограничений, в первую очередь в области защиты прав человека на неприкосновенность частной жизни. Впрочем, пока все эти инициативы носят скорее рекомендательный характер.

Автор – доцент департамента бизнес-информатики Высшей школы бизнеса НИУ ВШЭ