Голосовой помощник Amazon выдал частный разговор супружеской пары

Amazon подтвердила, что один из ее умных спикеров Echo без разрешения записал частную беседу супружеской пары и отправил ее человеку, имя которого было в списке контактов мужа, пишет The Wall Street Journal. Компания объяснила это тем, что Alexa, встроенный в спикер виртуальный помощник, несколько раз приняла фразы из их беседы за команды. Этот инцидент вызвал вопросы относительно безопасности таких устройств и конфиденциальности пользователей.

Спикеры Echo и аналогичные устройства Google Home и Apple HomePod быстро стали популярными в США, так как выполняют множество функций с помощью голосовых команд, например позволяют делать покупки в интернете, отмечает WSJ. Спикеры Echo не должны подключаться к интернету, пока не услышат ключевое слово (по умолчанию это «Alexa»). Но это означает, что микрофоны работают постоянно, если устройство включено. Поэтому некоторые аналитики предупреждали, что эти подключенные к интернету и оснащенные искусственным интеллектом устройства могут представлять риск.

Как отмечает Amazon, инцидент произошел в результате «маловероятной» череды событий. Компания сообщила, что Alexa «проснулась», услышав в беседе супругов слово, похожее на ее имя, и уловила фразу, похожую на команду «отправить сообщение». Затем Alexa спросила: «Кому?». Из последующей беседы она якобы уловила имя человека из списка контактов. Alexa переспросила имя этого человека, чтобы подтвердить команду, и интерпретировала дальнейший разговор как фразу «верно».

Первой об инциденте сообщил телеканал KIRO 7 из Сиэтла, взявший интервью у жительницы Портлэнда, в доме которой и произошел инцидент. По словам женщины, пара не слышала вопросы Alexa и узнала о том, что спикер записал и отправил кому-то разговор, когда им позвонил коллега мужа, который и получил запись. Он посоветовал им «немедленно отключить устройства с Alexa», так как подумал, что их взломали хакеры. Муж сначала не поверил, но коллега рассказал ему, о чем шла беседа (супруги обсуждали паркетное покрытие).

«Хотя такая цепь событий маловероятна, мы изучаем варианты, как можно сделать такой случай еще менее вероятным», – заявила Amazon.

Недавно Amazon тоже обещала улучшить оснащенные Alexa устройства, отмечает WSJ. Тогда пользователи жаловались, что гаджеты начинают смеяться без причины. Компания объяснила это тем, что Alexa неверно понимала услышанное.