Medewerkers Amazon horen de raarste dingen via Alexa-gesprekken

Door: Raymon Mens - 26 reacties

Slimme speakers zijn in, maar brengen nogal wat implicaties voor je privacy met zich mee. Amazon is met de Echo de eerste fabrikant die een controversiële stap heeft genomen. Medewerkers van het bedrijf luisteren naar commando’s die gebruikers aan Alexa geven. Ze werden bovendien wel eens gedeeld.

Dit gebeurt volgens Amazon om een gegronde reden, namelijk het algoritme verbeteren. Er wordt geluisterd naar de vraag van de gebruiker en het antwoord dat Alexa gaf. Dat is nodig om te kijken of de software goed werkt. Daarbij worden echter ook veel privacygevoelige gesprekken opgepikt en door medewerkers in een chatbox gedeeld.

Medewerkers horen de raarste dingen

Medewerkers verklaren tegen Bloomberg dat er naar ongeveer duizend opnames per dag wordt geluisterd. Werkzaamheden van de medewerkers bestaan onder andere uit het taggen van relevante categorieën in commando’s. Als uit de context blijkt dat iemand het over ‘Taylor Swift’ heeft, moet het verzoek het label ‘artiesten en muziek’ krijgen.

Er zijn echter lang niet allemaal onschuldige opnamen te horen. De gesprekken die medewerkers moeten beluisteren bevatten van alles. Soms zijn het gewone huiselijke dingen zoals mensen die vals zingen onder de douche of in de keuken. Er zijn echter ook geluiden die wijzen op niet-vrijwillige seks en kinderen die mishandeld worden en om hulp schreeuwen. Amazon grijpt in dat soort gevallen niet in. Dat is immers niet de taak van de medewerkers. Opvallende clips werden echter wel eens in een interne chatbox gedeeld.

Amazon Alexa
Klik/tap voor groter.

Niet alleen Amazon Alexa

In een reactie zegt Amazon dat er een streng beleid is rondom het luisteren opnamen. Er zijn operationele en technische maatregelen zoals twee-staps-authenticatie geïmplementeerd en er is een zerotolerancebeleid voor misbruik.

Het is niet ongewoon dat medewerkers naar audio-opnamen luisteren om de reacties van virtuele assistenten te verbeteren. Google doet het ook, maar vervormt stemmen om het identificeren van mensen te voorkomen. Apple bewaart commando’s die aan Siri zijn gegeven ook zes maanden op een server. Deze worden echter voor het opslaan al geanonimiseerd.

Reacties

26 reacties
  • Profielfoto
    mmww

    Mensen zijn knettergek! Waarom zou jij een afluistermicrofoon in je huis willen zetten of nog erger je hebt ze ook met camera! Omdat het nu in de mode is?

  • Profielfoto
    Ruwepit

    mmww op 11 april 2019 13:39
    Mensen zijn knettergek! Waarom zou jij een afluistermicrofoon in je huis willen zetten of nog erger je hebt ze ook met camera! Omdat het nu in de mode is?

    Omdat men de balans tussen gemak en prive volledig kwijt is. Men heeft gewoon echt niet meer in de gaten wat men opgeeft voor dit gemak.

  • Profielfoto
    Grrromit

     

    Ruwepit op 11 april 2019 13:52

    mmww op 11 april 2019 13:39
    Mensen zijn knettergek! Waarom zou jij een afluistermicrofoon in je huis willen zetten of nog erger je hebt ze ook met camera! Omdat het nu in de mode is?

    Omdat men de balans tussen gemak en prive volledig kwijt is. Men heeft gewoon echt niet meer in de gaten wat men opgeeft voor dit gemak.

    +1

  • Profielfoto
    KarelWillem

    Ruwepit op 11 april 2019 13:52

    … Men heeft gewoon echt niet meer in de gaten wat men opgeeft voor dit gemak…

    Vertel? Wat geef ik op?

  • Profielfoto
    Vaagstra

    Ik verkneukel me nu al om het e-nor-me schandaal dat in de maak is; ‘Google en Amazon luistervinken tóch en gebruiken die informatie voor eigen gewin’. En daarna weer de verontwaardiging die je weet die gaat komen.

  • Profielfoto
    xaddict

    Hm. Een wet die het verplicht voor dit soort apparaten om een Evt verkrachter met geluidsopname aan te geven bij de politie?

  • Profielfoto
    Rene van den Abeelen

    mmww op 11 april 2019 13:39
    Mensen zijn knettergek! Waarom zou jij een afluistermicrofoon in je huis willen zetten of nog erger je hebt ze ook met camera! Omdat het nu in de mode is?

    Het is een noodzakelijk iets om de techniek te vervolmaken. En vanzelfsprekend kleven daar nadelen aan. Net als aan akkoord gaan met cookies, het gebruik van een bonuskaart, een account aanmaken bij website en noem maar op. Het heeft dus weinig te maken met mode, maar met het gebruik maken van nieuwe mogelijkheden. Die zeer zeker ook minpunten hebben. Zoals alles.

  • Profielfoto
    /dev/enschede

    mmww op 11 april 2019 13:39
    Mensen zijn knettergek! Waarom zou jij een afluistermicrofoon in je huis willen zetten of nog erger je hebt ze ook met camera! Omdat het nu in de mode is?

    Gelukkig mag je dat zelf weten in Nederland. Maak lekker de keuze waar jij je goed bij voelt.

  • Profielfoto
    NeefjeLepiDop

    KarelWillem op 11 april 2019 14:40

    Ruwepit op 11 april 2019 13:52

    … Men heeft gewoon echt niet meer in de gaten wat men opgeeft voor dit gemak…

    Vertel? Wat geef ik op?

    Jouw privacy, je geeft info door over gewoonten en genoegen, wensen en voornemens. En daarmee alles wat van waarde is.

  • Profielfoto
    NeefjeLepiDop

    Rene van den Abeelen op 11 april 2019 14:55

    mmww op 11 april 2019 13:39
    Mensen zijn knettergek! Waarom zou jij een afluistermicrofoon in je huis willen zetten of nog erger je hebt ze ook met camera! Omdat het nu in de mode is?

    Het is een noodzakelijk iets om de techniek te vervolmaken. En vanzelfsprekend kleven daar nadelen aan. Net als aan akkoord gaan met cookies, het gebruik van een bonuskaart, een account aanmaken bij website en noem maar op. Het heeft dus weinig te maken met mode, maar met het gebruik maken van nieuwe mogelijkheden. Die zeer zeker ook minpunten hebben. Zoals alles.

    KarelWillem op 11 april 2019 14:40

    Ruwepit op 11 april 2019 13:52

    … Men heeft gewoon echt niet meer in de gaten wat men opgeeft voor dit gemak…

    Vertel? Wat geef ik op?

    Jouw privacy, je geeft info door over gewoonten en genoegen, wensen en voornemens. En daarmee alles wat van waarde is.

  • Profielfoto
    pinkie

    Wat van waarde is voor mij mag ik gelukkig zelf bepalen en dus ook waar ik wel of niet aan mee doe. Wanneer ik dat doe accepteer ik de consequenties en heb niet het gevoel iets op te geven. En wanneer ik dat gevoel niet heb geef ik dus ook niets op. En iedereen die hier anders over denkt moet lekker doen waarbij men zich goed voelt maar ga mij niet vertellen wat ik ‘opgeef’!!!

  • Profielfoto
    NeefjeLepiDop

    Rene van den Abeelen op 11 april 2019 14:55

    mmww op 11 april 2019 13:39
    Mensen zijn knettergek! Waarom zou jij een afluistermicrofoon in je huis willen zetten of nog erger je hebt ze ook met camera! Omdat het nu in de mode is?

    Het is een noodzakelijk iets om de techniek te vervolmaken. En vanzelfsprekend kleven daar nadelen aan. Net als aan akkoord gaan met cookies, het gebruik van een bonuskaart, een account aanmaken bij website en noem maar op. Het heeft dus weinig te maken met mode, maar met het gebruik maken van nieuwe mogelijkheden. Die zeer zeker ook minpunten hebben. Zoals alles.

    Dat is vrij naïef gedacht natuurlijk. Bij het actief goedkeuren van voorwaarden weet je wat je doet. Bij deze speaker en gekoppelde dienst weet je niet of er meegeluisterd wordt. Enkel de mogelijkheid dat dit gebeurt. En… de drang om tóch gebruik te maken van de verzamelde data zal heel groot zijn als de race to be the biggest tussen de datajongetjes steeds maar belangrijker wordt.

  • Profielfoto
    KarelWillem

    xaddict op 11 april 2019 14:50
    Hm. Een wet die het verplicht voor dit soort apparaten om een Evt verkrachter met geluidsopname aan te geven bij de politie?

    Nee, dat gaat nooit gebeuren. Dat kan simpelweg niet. Ten eerste blijft men niet alles ‘afluisteren’, ten tweede kan je van een Google, Amazon, of Apple niet verwachten dat zij een team klaar hebben staan die in staat is te beoordelen wat wel en wat niet door de beugel kan, en wanneer men instanties in moet schakelen om in te grijpen.

    Op basis van audio alleen kan je die inschatting vrijwel nooit maken. En je mag en kan die verantwoording ook niet bij een bedrijf neerleggen.

  • Profielfoto
    Gijs Raggers

    Das Leben der Anderen 2.0

  • Profielfoto
    Webbiker

    KarelWillem op 11 april 2019 14:40

    Ruwepit op 11 april 2019 13:52

    … Men heeft gewoon echt niet meer in de gaten wat men opgeeft voor dit gemak…

    Vertel? Wat geef ik op?

    Ik zou dit boekje even lezen: https://www.bol.com/nl/f/je-hebt-wel-iets-te-verbergen/9200000063121304/

  • Profielfoto
    sjoerdl

    Leuk dat de focus zo erg op de slimme speakers ligt, net alsof je niet wordt afgeluisterd op je telefoon. Die luistert toch ook naar ‘He Siri’ of ‘He Google’ ..

    En die heb je bijna altijd in je broekzak zitten!

  • Profielfoto
    KarelWillem

    NeefjeLepiDop op 11 april 2019 15:03

    KarelWillem op 11 april 2019 14:40

    Ruwepit op 11 april 2019 13:52

    … Men heeft gewoon echt niet meer in de gaten wat men opgeeft voor dit gemak…

    Vertel? Wat geef ik op?

    Jouw privacy, je geeft info door over gewoonten en genoegen, wensen en voornemens. En daarmee alles wat van waarde is.

    En dat vind ik een probleem omdat? Dat doe je ook met je OV-kaart, de aanvraag van een hypotheek, het inschrijven bij de KvK, met je klantenkaarten, je Belasting-aangifte, het bezoek aan een dokter of ziekenhuis, het afsluiten van je telefoonabonnement of je bestelling bij de supermarkt. En vrijwel zonder uitzondering ‘doen ze daar wat mee’.

  • Profielfoto
    Ruwepit

    KarelWillem op 11 april 2019 17:33

    NeefjeLepiDop op 11 april 2019 15:03

    KarelWillem op 11 april 2019 14:40

    Ruwepit op 11 april 2019 13:52

    … Men heeft gewoon echt niet meer in de gaten wat men opgeeft voor dit gemak…

    Vertel? Wat geef ik op?

    Jouw privacy, je geeft info door over gewoonten en genoegen, wensen en voornemens. En daarmee alles wat van waarde is.

    En dat vind ik een probleem omdat? Dat doe je ook met je OV-kaart, de aanvraag van een hypotheek, het inschrijven bij de KvK, met je klantenkaarten, je Belasting-aangifte, het bezoek aan een dokter of ziekenhuis, het afsluiten van je telefoonabonnement of je bestelling bij de supermarkt. En vrijwel zonder uitzondering ‘doen ze daar wat mee’.

    Dat jij de keuze hebt gemaakt om alles wat je lief is te delen omdat het blijkbaar geen waarde heeft voor jou is hier nu onderhand wel algemeen bekend. Prima, maar probeer het nu niet elke keer goed te praten. Heel veel gebruikers zijn nog naiever en hebben totaal niet in de gaten hoe hun hebben en houden gedeeld wordt met diensten/personen/bedrijven waar ze totaal geen zicht op hebben.

    Vond dat gisteren het programma van Kelder en Klopping op zich weer een prima eye-opener en ik denk dat velen zich weer helemaal rot geschrokken zijn.

  • Profielfoto
    gipsman

    1984>>>2019

  • Profielfoto
    Ome Kor

    KarelWillem op 11 april 2019 17:33

    En dat vind ik een probleem omdat? Dat doe je ook met je OV-kaart, de aanvraag van een hypotheek, het inschrijven bij de KvK, met je klantenkaarten, je Belasting-aangifte, het bezoek aan een dokter of ziekenhuis, het afsluiten van je telefoonabonnement of je bestelling bij de supermarkt. En vrijwel zonder uitzondering ‘doen ze daar wat mee’.

    Al die voorbeelden die je noemt zijn verschillende bedrijven/instanties die niet het volledige plaatje hebben, de meeste van die databases zijn niet gekoppeld. Google en Facebook daarentegen hebben veel meer gegevens bij elkaar geschraapt, waardoor ze een aardig profiel van je hebben, dat steeds beter wordt.

  • Profielfoto
    ro_me

    Wil je privacy, koop een hutje op de hei. Ik denk dat iedereen dat wel snapt. Maar om nou gelijk je huisarts te vergelijken met een slimme speaker die je woonkamer afluistert is wel heel kort door de bocht!

  • Profielfoto
    zepkleiker

    Heerlijk. Mensen die doen alsof privacy pas in het geding is met een slimme speaker terwijl ze met een smartphone rondlopen waarmee ze het internet gebruiken.

    Denken dat je dan slim bent, toont aan hoe naïef je zelf bent.

  • Profielfoto
    seffen99

    Ik lees de reacties en begrijp ze (in de context van de reactie of reactie op een reactie) stuk voor stuk. Privacy is gewoon een lastig begrip. Aan de ene kant heel abstract en aan de andere kant heel concreet. Iedereen heeft er wel een beeld bij, maar ik vraag me af of we er wel genoeg bij stilstaan wat de ‘inbreuk’ ervan (de gevolgen die het heeft) betekent als je dit niet als zodanig voelt. Totdat het te laat is.

    Dat is misschien weer lastig te begrijpen, maar zie het een beetje als klimaatverandering. Iedereen heeft er wel beeld bij (en de meningen erover lopen zwaar uiteen) maar we staan niet echt stil bij de gevolgen ervan, totdat het te laat is.

    Alsof het zich moet bewijzen (‘wat geef ik op dan?’ En ‘iedereen gebruikt het toch’) om van een abstract beeld naar een concreet verschijnsel (de gevolgen die het nu al heeft en de impact die het gaat hebben op het individu en de samenleving) te veranderen.

    Blijf dus vooral hierover praten en discussiëren en laat de discussie niet doden door uitspraken als ‘wie dat zegt is nog naiever’ of ‘

  • Profielfoto
    demandiebakt

    Ik denk dat je pas weet wat je opgeeft aan privacy als er iets gebeurt. Tot die tijd heb “ik” geen enkele toegevoegde waarde voor allerlei slimme speakers en dergelijke, ik kan zelf nog naar het lichtknopje lopen en er bestaan geen supermarkten die op mijn adres spullen bezorgen dus daar hoef ik het ook niet voor te doen.

  • Profielfoto
    SvS

    demandiebakt op 12 april 2019 09:07
    Ik denk dat je pas weet wat je opgeeft aan privacy als er iets gebeurt. Tot die tijd heb “ik” geen enkele toegevoegde waarde voor allerlei slimme speakers en dergelijke, ik kan zelf nog naar het lichtknopje lopen en er bestaan geen supermarkten die op mijn adres spullen bezorgen dus daar hoef ik het ook niet voor te doen.

    +1

  • Profielfoto
    mmww

    “zepkleiker op 11 april 2019
    Heerlijk. Mensen die doen alsof privacy pas in het geding is met een slimme speaker terwijl ze met een smartphone rondlopen waarmee ze het internet gebruiken.

    Denken dat je dan slim bent, toont aan hoe naïef je zelf bent.”
    ————————————————————-
    Niet zo dom doen! Natuurlijk kan iedereen je afluisteren en bekijken als je zo’n speaker met microfoon, en eventueel camera in je huis zet, welke altijd aanstaan. Nu is het nog nieuw en cool. Straks merk je het wel als je opeens wordt geweigerd voor een of andere verzekering omdat de speaker heeft gehoord dat er problemen zijn. Het draait uiteindelijk alleen maar om geld niet om privacy. De overheid heeft straks ook toegang tot de Informatie welke de slimme speaker verzameld. Wie is er nu naïef?

    Je iPhone microfoon kun je uitzetten. Mocht ooit blijken dat dat niet zo is, dan is Apple failliet. ‘Hé Siri’ moet je sowieso wel uitzetten. Anders is je iPhone inderdaad ook een slimme speaker.

    De slimme mensen die deze dingen uitvinden willen ze zelf niet in huis hebben, dat zegt mij genoeg!