change language     -        


Wie die Sprachassistenten 2019 ihre Unschuld verloren

25 December 2019, 16:22

Technik





news_image

© Jozsef Bagota/Shutterstock.com

Die Erkenntnis, dass Mitschnitte von Gesprächen mit Assistenten wie Alexa und Siri auch von Mitarbeitern gehört werden können, sorgte 2019 für Ärger.
Damit die Software die Nutzer verstehen kann, müssen immer wieder Aufzeichnungen nachträglich von Menschen angehört werden.
Das führte zu heftigen Protesten - mittlerweile fragen Anbieter wie Apple die Nutzer um Erlaubnis.


 
TRAFALGAR x RAZA - BTMG
 

Entdecke Newcomer Trafalgar & RaZa


  TRAFALGARRAZA

 

B erlin. Sprachassistenten, die sich in den vergangenen Jahren über vernetzte Echo-Lautsprecher von Amazon oder das iPhone von Apple ausbreiteten, galten mal als die Zukunft, mal als halbgare Spielerei – aber in diesem Jahr kam ein unangenehmes Geheimnis der Branche ans Licht. Damit die Software die Nutzer richtig gut verstehen kann, müssen immer wieder Aufzeichnungen von Dialogen nachträglich von Menschen angehört werden. Den weitaus meisten Nutzern war das nicht bewusst. Auch weil die Praxis in Unterlagen bestenfalls irgendwo ganz tief im Kleingedruckten erwähnt wurde. Oder gar nicht.

Der Ball kam ins Rollen im April. Der Finanzdienst Bloomberg enthüllte, dass einige Mitschnitte von Unterhaltungen mit Amazons Assistenzsoftware Alexa an diversen Standorten rund um die Welt ausgewertet werden, unter anderem in Boston, Costa Rica, Indien und Rumänien. Und zwar nicht nur direkt beim Konzern, sondern auch bei Dienstleistungs-Firmen. Ein Mitarbeiter aus Boston sagte, er habe zum Beispiel Aufzeichnungen mit den Worten "Taylor Swift" analysiert und sie mit der Anmerkung versehen, dass die Nutzer die Sängerin meinten.

Kinder nannten ihre Adressen, Erwachsene orderten Sexspielzeug

Andere Angestellte erinnerten sich, wie sie in den Aufnahmen Kinder ihre Adressen und Telefonnummer sagen hörten, jemand Sexspielzeug orderte und einsame Leute Alexa ihre Geheimnisse und Ängste anvertrauten. Danach wurde Schritt um Schritt klar, dass es bei Siri von Apple und dem Google Assistant im Prinzip genauso läuft. Die Dienste-Anbieter stehen vor einem realen Problem. Nutzer erwarten, dass ein Sprachassistent sie optimal versteht. Aber wie verbessert man die Software bei Fehlern, wenn man nicht genau weiß, wo und wie sie sich geirrt hat? Das sei insbesondere wichtig bei speziellen Fällen wie Dialekten oder Akzenten, die man schlecht mit einem generellen Anlernen der Programme abdecken könne, heißt es in der Branche.

Wenn Alexa und Siri plötzlich dazwischen quatschen




 

Ein ebenso schwieriger Fall sind die fehlerhaften Aktivierungen, bei denen die Sprachassistenten zu Unrecht glauben, ihr Weckwort wie "Alexa" oder "Hey, Siri" gehört zu haben. Hier ist es für die Entwickler wichtig, zu wissen, welche Laute oder Situationen genau zu dem Missverständnis führten, um sie Software entsprechend anzupassen.

Allerdings sind die Aufzeichnungen nach fehlerhaften Auslösungen auch potenziell besonders bedenklich aus Datenschutz-Sicht: Denn sie enthalten Sätze, die höchstwahrscheinlich nicht für den Sprachassistenten bestimmt waren, sondern aus Unterhaltungen zwischen den Nutzern stammen dürften. Der Mitarbeiter eines Apple-Dienstleisters erzählte der Zeitung "Guardian", auf den Aufnahmen seien zum Teil sehr private Details zu hören. So schnappe Siri auch Fragmente von Gesprächen mit medizinischen oder geschäftlichen Inhalten, mögliche kriminelle Aktivitäten oder auch Nutzer beim Sex auf, sagte er.

Apple wertet Gespräche nur noch nach Zustimmung aus

Nach den Enthüllungen war die bisherige Praxis nicht mehr aufrechtzuerhalten. Der Apple-Konzern, für den die Kritik angesichts des jahrelangen Datenschutz-Versprechens besonders schmerzhaft war, zog als erster die Reißleine und kündigte an, Aufnahmen nur noch nach ausdrücklicher Erlaubnis der Nutzer von Menschen auswerten zulassen. Zudem geschieht das nur noch beim Unternehmen selbst und nicht mehr bei Dienstleistern. Auch Google entschied sich für ein "Opt-In"-Verfahren mit vorheriger Zustimmung.

Amazon hingegen entschied sich für die schwächere Datenschutz-Lösung. Der Online-Händler wählte ein sogenanntes "Opt-out", bei dem die Nutzer einer Verwendung ihrer Mitschnitte zwar widersprechen können, sie aber standardmäßig vorausgesetzt wird. Amazon sehe darin die bessere Lösung für die Nutzer, sagt Gerätechef Dave Limp. Es könne natürlich sein, dass die Konkurrenten weiter beim maschinellen Lernen seien als Amazon – was er sehr bezweifle –, "oder ihre Dienste werden sich nicht so schnell verbessern". Er hoffe, "dass wir eines Tages keine Beteiligung von Menschen brauchen werden" – noch sei das aber notwendig. Zugleich seien die Reaktionen in den Medien stärker gewesen als bei den Nutzern: "Die Kunden haben nicht aufgehört, Alexa zu nutzen."

Allerdings gibt es auch Anzeichen dafür, dass bei weitem nicht alle umgeben von Mikrofonen leben wollen. Der Anbieter vernetzter Lautsprecher Sonos brachte sein Volumenmodell Sonos One im Herbst in einer Version ohne Mikrofon für Sprachassistenten auf den Markt. "Als wir den Sonos One herausgebracht haben, dachten wir, dass wir künftig Mikrofone in alle Geräte einbauen werden", sagte Firmenchef Patrick Spence. Es habe sich aber herausgestellt, dass nicht alle Nutzer sich damit wohlfühlten.

 


Quelle: RND/dpa


Hat dir dieser Artikel gefallen? Dann teil ihn mit deinen Freunden.




Folgt uns um keinem Artikel mehr zu verpassen




news_image

Trauriger Rekord: Weltweit fast eine Million Tote vermeldet die US-amerikanische Johns Hopkins Universität. Die Zahl der im Zusammenhang mit Covid-19 Gestorbenen hat sich in den vergangenen drei Monaten verdoppelt. Der Ruf nach einem Impfstoff gegen das V

Read more

news_image

Bild-Chefredakteur Julian Reichelt nach reißerischer Berichterstattung über Kindermord in Solingen unter Druck. Hält Springer-Chef zu ihm?

Read more

news_image

Das EU-Parlament erkennt den belarussischen Präsidenten Lukaschenko nicht mehr an.

Read more

news_image

Für den 15. September war ein Besuch des russischen Außenministers in Berlin geplant. Zu besprechen gäbe es genug, aber Heiko Maas hat die vereinbarte Zeit für die persönliche Aussprache gekürzt. Daraufhin hat Lawrow den Besuch abgesagt, weil „das ursprün

Read more


allnews_image

Die Afrikanische Schweinepest (ASP) könnte erstmals in Deutschland ausgebrochen sein. Der Verdachtsfall besteht bei einem Wildschwein im Landkreis Spree-Neiße.

Voir plus


allnews_image

Meine ersten Worte des Artikels lauten: "Schnallen Sie sich an, der Schock wird heftig".

Voir plus


allnews_image

Prämien für Pflegekräfte in Kliniken

Voir plus


allnews_image

Angebliche Vergiftung von Nawalny

Voir plus


allnews_image

Auch mit Statistiken lässt sich trefflich lügen. Es ist unredlich, aus der Zunahme der Neuinfektionen eine derart grosse Gesundheitsgefahr abzuleiten, wie das derzeit vonseiten der Politik und der Medien geschieht.

Voir plus


allnews_image

Auch mit Statistiken lässt sich trefflich lügen. Es ist unredlich, aus der Zunahme der Neuinfektionen eine derart grosse Gesundheitsgefahr abzuleiten, wie das derzeit vonseiten der Politik und der Medien geschieht.

Voir plus



allnews_image

Die Linke: Kampagne gegen friedenspolitischen Kurs der Partei. Linker Flügel sieht »Gründungskonsens« der Partei in Frage gestellt

Voir plus


allnews_image

Trotz der Offensive des türkischen Militärs in Syrien beliefern deutsche Rüstungsriesen den Nato-Partner weiter. Das sorgt für Kritik aus der Opposition.

Voir plus


allnews_image

Tausende Menschen haben in Mauritius gegen die Umweltpolitik der Regierung demonstriert. "Schämt Euch" stand auf Schildern. Es geht konkret um die Art, wie die Regierung mit dem Öltankerunglück vor Mauritius umgegangen ist und dass jetzt immer mehr tote D

Voir plus


allnews_image

Seit 2016 forscht Elon Musk mit seinem Neurotechnologie-Startup Neuralink an der Verbindung zwischen Computer und menschlicher Gehirne.

Voir plus


allnews_image

Wer anderen Schmerzen zufügt, leidet zumeist mit. Jedoch deutlich seltener, wenn die Person auf Befehl einer Autorität quält. Warum das so ist, zeigen Hirnscans.

Voir plus


allnews_image

Nordrhein-Westfalens Schüler können aufatmen. Das Land setzt die zum Teil heftig kritisierte Maskenpflicht im Unterricht für Kinder und Jugendliche an weiterführenden Schulen aus.

Voir plus


allnews_image

Bundeskanzlerin Angela Merkel hat sich in der Bundespressekonferenz den Fragen von Journalistinnen und Journalisten gestellt. Es ging um die Corona-Pandemie, die Europäischen Union und um viele andere aktuelle Themen.

Voir plus


allnews_image

Washingtons Außenminister hetzt gegen Kommunistische Partei. US-Spionageflugzeug provoziert im Nordosten der Volksrepublik

Voir plus


allnews_image

Die geplante Demonstration gegen die Coronamaßnahmen am Wochenende in Berlin darf nicht stattfinden: Der Senat fürchtet, dass gegen Hygieneregeln verstoßen wird. Doch was wiegt höher: Infektionsschutz oder Versammlungsfreiheit? Ein Pro und Contra.

Voir plus


allnews_image

Wie infektiös sind Kinder? Die Wissenschaft forscht und hat erste Erkenntnisse.

Voir plus


allnews_image

Auch eine generelle Maskenpflicht am Arbeitsplatz wird diskutiert.

Voir plus


allnews_image

Berlin (dts Nachrichtenagentur) – Bundesarbeitsminister Hubertus Heil (SPD) lehnt die Idee eines bedingungslosen Grundeinkommens anstelle des bestehenden Systems von Sozialleistungen ab. „Ich halte nichts von einem bedingungslosen Grundeinkommen“, sagte H

Voir plus


allnews_image

Ecowas-Diplomaten treffen in Mali auf die neuen Machthaber

Voir plus


allnews_image

In den USA ist es erneut zu Protesten gekommen, nachdem ein Schwarzer bei einem Polizeieinsatz schwer verletzt worden ist.

Voir plus




allnews_image

Hessen: Eltern, Lehrer und Bildungsgewerkschaft kritisieren Schulöffnung als planlos. Ein Gespräch mit Birgit Koch

Voir plus


allnews_image

Bundesregierung will Reisende aus Risikogebieten digital registrieren

Voir plus


allnews_image

Ein schwerer Sturm hat in Teilen Irlands Überschwemmungen verursacht und Hunderttausende Menschen von der Stromversorgung abgeschnitten. Besonders betroffen waren der Süden und Westen des Landes, wie der irische Fernsehsender RTE am Donnerstag berichtete.

Voir plus


allnews_image

Waldbrände wüten in den Bergen von Santa Cruz

Voir plus


allnews_image

Petition für ein begrenztes bedingungsloses Grundeinkommen muss im Bundestag diskutiert werden

Voir plus