Безопасность умных колонок

2020

Голосовые помощники могут приводить к утечкам данных

Голосовые помощники могут приводить к утечкам данных. Об этом стало известно 23 сентября 2020 года.

Голосовой помощник опасен тем, что постоянно прослушивает окружающее пространство в ожидании команд и слышит все, что говорится и происходит рядом.

При этом большинство помощников пересылают часть аудиопотока на серверы компаний-разрабочиков, где данные хранятся неограниченно долго и в перспективе могут нанести существенный вред. Об этом рассказал основатель компании-разработчика DLP-систем и ПО для защиты от утечек данных DeviceLock Ашот Оганесян.Как создать ПО для технологического моделирования на замену западному совместно с партнёрами. Опыт «СИБУРа» представлен на TAdviser SummIT 26.2 т

Эксперт считает, что поскольку нейросети, распознающие голосовые команды, руководствуются нечеткой логикой, вполне возможны неадекватные действия виртуального помощника. И если при этом он управляет, к примеру, умным домом или охранной системой, эти действия могут нанести реальный ущерб. Например, сигнализация отключится или в пустом доме начнет работать отопление.

При этом Оганесян отметил, что автономные специализированные устройства, такие как аудиоколонка, собирают, в основном, аудиоданные, но голосовые помощники, встроенные в компьютеры или смартфоны, имеют доступ ко всем данным операционной системы.

Насколько безопасно использовать голосовой помощник, каждый должен решать сам, исходя из своего понимания вещей, которые с ним происходят и которые он хотел бы оставить приватными, заключил эксперт^[1].

Запрет на использование умных колонок на работе для британских госслужащих

17 июля 2020 года правительство Великобритании запретило государственным служащим использовать во время встреч умные колонки. Запрет касается чиновников, которые вынуждены работать из дома в связи с карантинными мерами из-за пандемии COVID-19.

По сообщению издания Business Insider, государственные служащие должны либо отключать умные колонки, например, Amazon Echo или Google Nest, либо убирать их из комнаты при проведении совещаний. Так как многие перешли на усиленный режим работы, необходимость в безопасности, очевидно, усилилась.

Один из чиновников сообщил Business Insider, что ему буквально сказали отправить его умную колонку в мусорное ведро. Тем временем другой чиновник отметил, что такой подход к работе практикуется уже достаточно давно.

В Великобритании госслужащим запрещено использовать умные колонки на работе

Интеллектуальные колонки, такие как Echo и Nest, постепенно превращаются в неотъемлемый элемент повседневной жизни многих людей, так как пользователи смартфонов привыкли обращаться за помощью к цифровым помощникам - Amazon Alexa или Siri Apple. Госслужащим запрещено использовать такие устройства во время встреч по той причине, что гаджет может активироваться даже зафиксировав неправильную команду, запись фоновой речь впоследствии отправляется на серверы.

Ранее агентство Bloomberg сообщало, что сотрудники Amazon иногда слушали записи Echo без ведома пользователей, где могло обсуждаться нечто деликатное или даже сверх конфиденциальное.

Кроме того, 16 июля 2020 года стало известно о том, что правительство Великобритании собирается ввести новые требования по безопасности использования интеллектуальных устройств, в частности требования будут касаться надежности устанавливаемых паролей. Производители же умных устройств должны будут предоставить функционал, благодаря которому потребители смогут сообщать о наличии уязвимостей и контролировать обновления для обеспечения безопасности.^[2]

Советы по обеспечению безопасности от Роскачества

Советы ниже будут касаться умной колонки — одного из самых популярных компонентов умного дома:

• если есть такая опция, рассмотрите возможность отказаться от обмена с производителем записями, используемыми для улучшения обслуживания и отключения «персонализированных результатов поиска»;
• отключайте устройства, когда они не используются. Лучше не обсуждать конфиденциальные темы в присутствии умной колонки;
• включите уведомления по электронной почте, чтобы следить за попытками несанкционированного доступа или интернет-покупок. Совсем идеальным будет не привязывать к колонкам свой основной аккаунт, связанный с платежными средствами.
• Опасность умных устройств заключается еще и в том, что они меняют «прошивку» своего владельца. Так, например, с умным устройством можно забыть о необходимости выключать утюг самостоятельно, и, приехав в гостиницу или в гости, воспользовавшись «неумным» утюгом, можно на автомате его не выключить.

Диалоги из сериалов могут включать цифрового ассистента

Смарт-колонки наподобие Amazon Echo, Apple HomePod и Google Home могут активироваться при просмотре телесериалов и шпионить за пользователями. К такому выводу пришли специалисты Северо-западного университета (США) и Имперского колледжа Лондона^[3] по результатам проведенного эксперимента^[4].

В ходе эксперимента исследователи в течение 125 часов воспроизводили контент Netflix и наблюдали за тем, смогут ли фразы из диалогов в сериалах активировать цифровых ассистентов в устройствах Google Home Mini первого поколения, Apple Homepod, Harman Kardon (Cortana) и Amazon Echo Dot. Их целью было выяснить, записывают ли смарт-колонки случайные звуки из окружающей среды, и если да, то как и когда это происходит. Также исследователи попытались выявить закономерности, основывающиеся на определенных словах, не предназначенных для активации ассистента, определенных типах диалога, местоположении и других факторах.

В ходе исследования специалисты воспроизводили телесериалы Netflix разных жанров и на разные темы с большим количеством диалогов. Они повторяли тесты несколько раз с целью определить, какие непредназначенные для пробуждения ассистента слова регулярно активируют колонки.

Как выяснилось в ходе эксперимента, ассистент случайно активируется до 19 раз в день, при этом Siri и Cortana более всего склонны к случайным записям окружающих звуков. Чаще всего ассистенты активировались при просмотре телесериалов «Девочки Гилмор» и «Офис».

Исследователи также выявили некоторые закономерности в том, какие непредназначенные для ассистента слова могут его активировать. К примеру, это оказались слова, рифмующиеся со словами активации (в частности, Amazon Echo принял фразу «kevin's car» за «Alexa»).

2019: Управление голосовыми помощниками в умных колонках с помощью ультразвука

17 декабря 2019 года стало известно, что японские инженеры разработали метод незаметного управления голосовыми помощниками в умных колонках с помощью ультразвука. Они предлагают испускать ультразвуковые колебания с такими параметрами, что по мере распространения в воздухе они меняются и вблизи колонки превращаются в слышимые, но заметные лишь для людей, расположенных вплотную к устройству. Статья о разработке опубликована в IEEE Transactions on Emerging Topics in Computing.

Современные голосовые помощники связаны с аккаунтом пользователя и имеют доступ к личным данным, а также возможность управлять другими устройствами. Все это делает их удобными инструментами в повседневной жизни, но вместе с этим повышает их ценность в глазах злоумышленников, поэтому исследователи в области информационной безопасности в последние годы стали активно разрабатывают методы взлома голосовых помощников, чтобы создать защиту от таких вмешательств. При этом в основном они исследуют не стандартные методы взлома программного обеспечения, а нетривиальные способы, основанные на особенностях распространения звука.

Например, некоторые исследователи предлагали использовать ультразвуковые команды, которые превращаются в слышимые в микрофоне, зашифровывать в уже слышимых аудиозаписях незаметные команды или формировать команды с помощью лазерного луча, направленного на микрофон. Из этих трех подходов лишь первый обеспечивает незаметную человеку атаку, но он чувствителен к расстоянию до колонки, а также уровню окружающего шума.

Исследователи под руководством Тацуи Мори (Tatsuya Mori) из Университета Васэда тоже использовали в качестве основы ультразвук, но применили его иным способом, благодаря чему он не так зависит от расстояния и особенностей микрофонов умной колонки. Для этого инженеры использовали массив из узконаправленных параметрических ультразвуковых динамиков.

Схема самопроизвольной демодуляции звука в воздухе

С помощью амплитудной модуляции исходная звуковая команда кодируется в ультразвуковые колебания на несущей частоте и боковых полосах частот. По мере распространения волн от динамиков к цели (колонке) звук самопроизвольно демодулируется из-за того, что волны распространяются в нелинейной среде (воздухе), из-за чего образуются слышимые человеку, но направленные колебания. При этом из-за распространения в воздухе волны постепенно затухают. В результате вдоль прямой от динамиков в сторону колонки образуется область, в которой присутствует слышимый для человека и колонки звук, а параметрами этого звука и области можно управлять. Помимо схемы с одним динамиком исследователи также научились создавать подобным образом звук на пересечении направленного излучения двух массивов динамиков.

Две схемы создания неслышимых команд

Эксперименты с умными колонками Google Home и Amazon Echo показали, что метод позволяет активировать колонки в помещении на расстоянии почти 20 метров, а также передавать успешно распознаваемые ими команды на расстоянии до 12 метров. При этом в случае с перекрестной схемой создания звука наблюдатели практически не могли заметить команды, а при использовании одного массива голосовые команды все же были различимы в части случаев.

Прототип системы

В начале 2019 года датские инженеры создали насадку для умных колонок, сохраняющую их функции, но защищающую приватность пользователей. Большую часть времени она испускает прямо в микрофон колонки белый шум и тем самым не дает ей слышать звуки в помещении, но, когда пользователь говорит активационную фразу, она активирует колонку и выключает шум, давая голосовому помощнику работать в обычном режиме.^[5]

Смотрите также Голосовые помощники (бормотографы)

Примечания