MenüZurück
Wird geladen.

25.09.2018

11:20

Forscher manipulieren Sprachassistenten

Geheime Botschaften für Alexa und Siri

Von: Thomas Trösch

Sprachassistenten manipulieren: Systeme wie Siri oder Alexa können durch Befehle fremdbestimmt werden, die sich in Musik verstecken.

Geheime Botschaften für Alexa und Siri

Lautsprecher Amazon Echo mit Sprachassistent Alexa

Digitale Sprachassistenten lassen sich durch für das menschliche Ohr unhörbare Befehle manipulieren. (Foto: dpa)

BerlinSprachassistenten wie Alexa oder Siri sollen eigentlich unseren Alltag erleichtern. Doch mitunter entwickeln die digitalen Helfer mehr Eifer, als ihren Besitzern lieb ist. Was dann passieren kann, zeigt etwa ein Fall in den USA, bei dem ein Alexa-Lautsprecher private Gespräche aufzeichnete und verschickte, ohne dass die Nutzer etwas davon bemerkten.

Handelte es sich bei diesem Fall laut dem Hersteller Amazon um eine unglückliche Verkettung unwahrscheinlicher Ereignisse, so sind Forscher der Ruhr-Universität Bochum (RUB) nun einer echten Schwachstelle der digitalen Helfer auf die Spur gekommen. Ihnen gelang es, für das menschliche Ohr unhörbare Befehle an Sprachassistenten zu übermitteln, versteckt in Musik oder anderen unverdächtigen Geräuschen.

„Als eines von vielen Beispielen, wie ein solcher Angriff ausgenutzt werden könnte, kann man sich einen Sprachassistenten vorstellen, der Online-Bestellungen ausführt“, sagt Thorsten Holz vom Institut für IT-Sicherheit der Ruhr-Universität. „Wir könnten etwa einen Song, der im Radio abgespielt wird, so manipulieren, dass der Sprachassistent den Befehl enthält, ein bestimmtes Produkt einzukaufen.“

Für ihre Untersuchung konzentrierten sich die IT-Experten auf das Spracherkennungssystem Kaldi, das in Amazons Alexa und anderen Assistenzsystemen enthalten ist. Die Forscher fütterten Kaldi mit Audiodateien im MP3-Format, in denen sie neben den eigentlichen Audioinformationen maskierte Befehle versteckten.

Wie diese Maskierung funktioniert, erläutert Dorothea Kolossa, eine der Leiterinnen der Forschungsgruppe: „Wenn das Gehör damit beschäftigt ist, einen lauten Ton einer bestimmten Frequenz zu verarbeiten, können wir für einige Millisekunden auf dieser Frequenz leisere Töne nicht mehr wahrnehmen.“ Diese Tatsache wird beim MP3-Format genutzt, das nicht hörbare Bereiche ausspart, um die Dateigröße zu minimieren.

Genau in diesen Bereichen versteckten die Forscher die Befehle für den Sprachassistenten. Für das menschliche Ohr klingen die hinzugefügten Komponenten wie zufälliges Rauschen – wenn sie überhaupt wahrgenommen werden. Die Maschine registriert jedoch einen deutlichen Befehl und handelt entsprechend.

Amazon Echo im Test: Alexa, lass' uns reden!

Amazon Echo im Test

Alexa, lass' uns reden!

Amazons Assistentin Alexa hat Deutsch gelernt: Ähnlich wie Siri beantwortet sie Fragen und trägt Termine in den Kalender ein, jedoch nicht übers Smartphone, sondern einen Lautsprecher. Meist charmant, manchmal nervig.

Für ihren Versuch überspielten die Forscher ihre Daten direkt in Kaldi. Theoretisch wäre jedoch auch eine Signalübertragung durch die Luft möglich, also von einem Lautsprecher zum Sprachassistenten. „Durch die Hintergrundgeräusche wird der Angriff nicht mehr ganz so effizient sein“, so Lea Schönherr, eine weitere an dem Projekt beteiligte RUB-Forscherin. „Aber wir gehen davon aus, dass es immer noch funktioniert.“

Ein Ziel der RUB-Forscher ist es, die Sprachassistenten künftig besser gegen solche Angriffe zu wappnen. „Da die Systeme immer ausgefeilter und beliebter werden, muss weiter an den Schutzmechanismen gearbeitet werden“, sagt Thorsten Holz.

Denn künftig werden die digitalen Helfer nicht nur dem persönlichen Komfort dienen, sondern auch zunehmend sicherheitsrelevante Funktionen übernehmen, zum Beispiel in Smart-Home-Anwendungen. Und wenn sich per Sprachassistent Türen und Fenster entriegeln lassen, drohen bei Missbrauch größere Schäden als ein unerwünschter Online-Einkauf.

Amazons neue Produkte

Produktpräsentation im „The Spheres“: Nun kommt Alexa „to go“

Amazons neue Produkte: Produktpräsentation im „The Spheres“: Nun kommt Alexa „to go“

Ihr Browser unterstützt leider die Anzeige dieses Videos nicht.

Direkt vom Startbildschirm zu Handelsblatt.com

Auf tippen, dann auf „Zum Home-Bildschirm“ hinzufügen.

Auf tippen, dann „Zum Startbildschirm“ hinzufügen.

×