KontaktRufen Sie uns an +49 89 993412-0

Spion auf dem Küchentisch

9. Sep 2019 SKR

Smart Assistants findet man heutzutage in vielen Haushalten. Diese persönlichen Assistenten, die vor einigen Jahren noch absolute Science Fiction waren, spielen per Sprachfunktion Musik, durchsuchen das Internet, erledigen Online-Einkäufe und senden nebenher private Gespräche zur Auswertung quer über den Globus.

2008, im ersten „Iron Man“-Film war die interaktive Hausmeister-KI in der Villa des Protagonisten noch Zukunftsmusik. Aber nur drei Jahre später stellte Apple die erste Version ihrer „Siri“-Sprachassistentin vor, die damals noch ans iPhone gebunden war. Wenige Jahre darauf kam Amazons „Alexa“ auf den Markt: Kleine, geriffelte Tonnen, mit denen man durch Sprachkommandos interagiert. Der Assistent nimmt die Befehle auf, bearbeitet sie über Amazons Server und antwortet dem Nutzer per Sprachausgabe, je nach Anfrage informierend oder unterhaltsam. Viel persönlicher als die Suchmaschine auf einem Laptop.

Anfang des Jahres kamen die Geräte jedoch in Kritik, da die von Alexa aufgenommenen Befehle nicht nur zur Bearbeitung auf den Servern landen, sondern dort abgespeichert und in einigen Fällen von Amazon-Mitarbeitern abgehört und dokumentiert werden. Der Konzern erklärte, dass dies nötig sei, um die Spracherkennung des digitalen Assistenten zu verbessern. Vor allem seien Aufnahmen interessant, in denen Alexa ihren Benutzer nicht, oder falsch verstanden hat. In solchen Fällen werden die Aufnahmen abgehört und mit dem von Alexa interpretierten Befehl verglichen. Bei tatsächlichen Fehlinterpretationen werden diese ausgebessert und in die Datenbank aufgenommen. So lernt die KI.

Amazon-Mitarbeiter verrieten allerdings, dass sich solche Verständigungsprobleme nicht nur auf das Abspielen des falschen Ed-Sheeran-Songs beschränken. Viel häufiger schaltet sich der Assistent ein, weil er vermutet, sein Aktivierungswort erkannt zu haben. Er horcht dann so lange, bis er glaubt, der Befehl sei zu Ende. Bis dahin speichert er Gespräche über Bankdaten, die Krankheitsgeschichte eines Elternteils – oder deutlich privatere Aktivitäten. Im allgemeinen also nichts, was die meisten von uns gerne digital verbreitet sehen wollen, geschweige denn von Fremden auf der anderen Seite des Planeten abgehört. Nicht nur das, auch horcht das Gerät neben seinem Aktivierungswort noch nach weiteren Schlüsselwörtern wie zum Beispiel Produktnamen, um dem Nutzer diese in späteren Suchanfragen zu präsentieren.

Das digitale Warenhaus steht mit diesem Ansatz natürlich nicht allein. Es stellte sich heraus, dass auch die beiden großen Konkurrenten, Apples „Siri“ und Googles „Google Assistant“, ein ähnliches Vorgehen nutzen. Inzwischen geben jedoch alle drei Konzerne dem Unmut der Allgemeinheit ein Stück weit nach.

Apple setzt das Abhören aus, bis die Software so modifiziert ist, dass sie den Nutzer ausdrücklich um Erlaubnis bittet. Google geht einen Schritt weiter und hat das Lausch-Programm auf unbestimmte Zeit gestoppt, fürs erste aber nur bei betroffenen Geräten in der EU. Amazon wirkt dagegen etwas uneinsichtiger. Zwar hat der Nutzer jetzt die Möglichkeit das Aufzeichnen und Auswerten von Gesprächen zu untersagen, diese Option ist aber tief in den Einstellungen vergraben. Die meisten Nutzer werden ihr also nie begegnen. Zudem unterbindet diese Einstellung zwar das Abhören von Menschenohr, aufgezeichnet und auf Amazons Server gespeichert wird aber immer noch. Es gibt leider keine Einstellung um auch das abzuschalten, man kann seine Daten nur auf Anfrage von den Servern löschen lassen. Immer und immer wieder.

George Orwells „1984“ hatte also unrecht: Die Komplettüberwachung der Bevölkerung geht nicht vom Staat aus, sondern von den großen Technik-Konzernen, in fleißiger, freiwilliger Mithilfe ihrer Kunden. Warum die EU trotz DSGVO hier noch kein Machtwort gesprochen hat, bleibt aber unverständlich.

Tags