Amazon Echo en de Alexa-spraakassistent hebben veel publiciteitsproblemen met privacy gehad. Of het de is hoeveelheid gegevens die ze verzamelen of het feit dat zij naar verluidt werknemers en soms externe contractanten van over de hele wereld betalen luister naar opnames om de nauwkeurigheid te verbeteren, bestaat de mogelijkheid dat gevoelige persoonlijke informatie via deze apparaten wordt gelekt.
Maar de risico's strekken zich niet alleen uit tot onze relatie met Amazon. Er ontstaan grote privacyproblemen in de manier waarop Alexa-apparaten communiceren met andere services - waardoor een dystopische spiraal van stijgende risico's dreigt toezicht en controle.
De installatie van de Echo verandert Amazon in een extra gateway die elke online interactie moet passeren, waarbij gegevens over elke worden verzameld. Alexa weet waar u naar zoekt, luistert of berichten verstuurt. Sommige smartphones doen dit al, vooral die van Google en Apple die de hardware, software en cloudservices beheren.
Maar het verschil met een Echo is dat het de slechtste aspecten van smartphones en smart homes samenbrengt. Het is geen persoonlijk apparaat, maar geïntegreerd in de thuisomgeving, altijd klaar om te luisteren. Alexa beschikt zelfs over een kunstproject (niet gemaakt door Amazon) dat dit probeert te verduidelijken met de enge "Vraag het de luisteraars”Functie die opmerkingen maakt over hoeveel het apparaat u bespioneert. Sommige Echo-apparaten hebben al camera's, en als gezichtsherkenningsmogelijkheden zouden worden toegevoegd, zouden we een wereld van diepgaande monitoring kunnen betreden in onze meest privéruimtes, zelfs gevolgd als we ons verplaatsen tussen locaties.
{vermeld Y=MnvJ4Bh60L8}
Deze technologie geeft Amazon een enorme hoeveelheid controle over uw gegevens, wat lange tijd het doel was van de meeste technische reuzen. Terwijl Apple en Kopen Google Reviews - die hun onder ogen zien eigen privacykwesties - vergelijkbare stemassistenten hebben, ze hebben op zijn minst vooruitgang geboekt met het uitvoeren van de software rechtstreeks op hun apparaten, zodat ze geen opnames van uw spraakopdrachten naar hun servers hoeven over te zetten. Amazon lijkt niet hetzelfde te proberen.
Dit komt gedeeltelijk door het agressieve bedrijfsmodel van het bedrijf. De systemen van Amazon lijken niet alleen ontworpen om zoveel mogelijk gegevens te verzamelen, maar ook om manieren te creëren om deze te delen. Dus de potentiële problemen gaan veel dieper dan Alexa die op privémomenten luistert.
Delen met wetshandhavers
Een punt van zorg is het potentieel om de oren van rechtshandhaving in onze huizen, scholen en werkplekken te leggen. Apple heeft een geschiedenis van verzet tegen FBI-verzoeken voor gebruikersgegevens, en Twitter is relatief transparant over rapportage over hoe het reageert op verzoeken van overheden.
Maar Ring, het internet-verbonden bedrijfsbeveiligingscamerabedrijf van Amazon, heeft een spraakmakende relatie met de politie gebruikersgegevens overhandigen. Zelfs de manier waarop burgers en politie communiceren wordt steeds meer gecontroleerd en gecontroleerd door Amazon.
Altijd luisteren. Tomasso79 / Shutterstock
Dit riskeert het inbedden van een cultuur van staatstoezicht in de activiteiten van Amazon, wat zorgwekkende gevolgen kan hebben. We hebben talloze voorbeelden gezien van wetshandhaving en andere overheidsinstanties in democratische landen die persoonlijke gegevens gebruiken om mensen te bespioneren, beide in overtreding van de wet en erin, maar om redenen die gaan veel verder het voorkomen van terrorisme. Dit soort massabewaking creëert ook een groot potentieel voor discriminatie, omdat herhaaldelijk is aangetoond dat het een slechter effect heeft op dames en minderheid groepen.
Als Amazon niet bereid is terug te dringen, is het niet moeilijk voor te stellen Alexa-opnames worden overgedragen op verzoeken van overheidsfunctionarissen en wetshandhavers die mogelijk de geest of de letter van de wet willen schenden. En gezien internationale overeenkomsten voor het delen van inlichtingen, zelfs als u uw eigen regering vertrouwt, vertrouwt u ook anderen?
Als reactie op dit probleem zei een woordvoerder van Amazon: “Amazon geeft geen klantinformatie vrij in reactie op overheidsverzoeken, tenzij we verplicht zijn om dit te doen om te voldoen aan een rechtsgeldige en verblindende bestelling. Amazon maakt vanzelfsprekend bezwaar tegen overmatige of anderszins ongepaste eisen.
"Ringklanten beslissen of ze beeldmateriaal delen in antwoord op vragen van lokale politie die zaken onderzoeken. Lokale politie kan geen informatie zien met betrekking tot welke Ring-gebruikers een verzoek ontvingen en of ze weigerden te delen of zich af te melden voor toekomstige verzoeken." voegde eraan toe dat hoewel de lokale politie toegang heeft tot Ring's Neighbours-app voor het melden van criminele en verdachte activiteiten, ze geen toegang hebben tot gebruikersaccountinformatie.
Gezondheidsproblemen volgen
Gezondheid is een ander gebied waar Amazon een overname lijkt te proberen. De Britse National Health Service (NHS) heeft een deal getekend voor medisch advies verstrekt via de Echo. Op het eerste gezicht betekent dit eenvoudigweg manieren om toegang te krijgen tot openbaar beschikbare informatie zoals de NHS-website of telefoonlijn 111 - er worden geen officiële patiëntgegevens gedeeld.
Maar het creëert de mogelijkheid dat Amazon zou kunnen beginnen met het volgen van de gezondheidsinformatie waar we om vragen via Alexa, waardoor effectief profielen van de medische geschiedenis van gebruikers worden opgebouwd. Dit kan worden gekoppeld aan suggesties voor online winkelen, advertenties van derden voor dure therapieën of zelfs advertenties die mogelijk traumatisch zijn (denk aan vrouwen die een miskraam hebben gehad) babyproducten worden getoond).
Een woordvoerder van Amazon zei: “Amazon bouwt geen gezondheidsprofielen van klanten op basis van interacties met nhs.uk-inhoud en gebruikt dergelijke verzoeken niet voor marketingdoeleinden. Alexa heeft geen toegang tot persoonlijke of privéinformatie van de NHS. ”
De wreedheid en glitches van algoritmische reclame zouden in strijd zijn met de professionele en morele normen die gezondheidsdiensten nastreven. Bovendien zou het zeer invasief zijn om de gegevens op dezelfde manier te behandelen als veel Echo-opnamen. Wilt u dat een willekeurige externe aannemer weet dat u om advies over seksuele gezondheid vroeg?
Transparantie
Aan deze kwesties ligt een gebrek aan echte transparantie ten grondslag. Amazon is verontrustend stil, ontwijkend en terughoudend om actie te ondernemen als het gaat om het aanpakken van de privacyimplicaties van hun praktijken, waarvan vele diep begraven liggen binnen hun algemene voorwaarden of moeilijk te vinden instellingen. Zelfs technisch onderlegde gebruikers kennen het niet noodzakelijkerwijs volledige omvang van de privacyrisico's, en wanneer privacyfuncties worden toegevoegd, vaak alleen gebruikers bewust maken nadat onderzoekers of de pers het probleem ter sprake brengen. Het is volkomen oneerlijk om een dergelijke last op gebruikers te leggen om erachter te komen en te verzachten wat deze risico's zijn.
Dus als je een echo in huis hebt, wat moet je dan doen? Er zijn veel tips beschikbaar over hoe u het apparaat privéer kunt maken, zoals het instellen van spraakopnamen om automatisch te verwijderen of te beperken welke gegevens worden gedeeld met derden. Maar slimme technologie is bijna altijd bewakingstechnologie en het beste advies is om er geen bij u thuis te brengen.
In reactie op de hoofdpunten van dit artikel vertelde een woordvoerder van Amazon aan The Conversation:
Bij Amazon staat klantvertrouwen centraal in alles wat we doen en we nemen privacy en beveiliging zeer serieus. We hebben altijd geloofd dat privacy fundamenteel moet zijn en moet worden ingebouwd in elk stuk hardware, software en service die we maken. Vanaf het begin hebben we klanten de controle gegeven en zoeken we altijd naar manieren om het voor klanten nog eenvoudiger te maken om transparantie en controle over hun Alexa-ervaring te hebben. We hebben verschillende privacyverbeteringen geïntroduceerd, waaronder de optie om spraakopnamen na drie of achttien maanden continu automatisch te laten verwijderen, de mogelijkheid om Alexa te vragen "te verwijderen wat ik net heb gezegd" en "te verwijderen wat ik vandaag heb gezegd", en de Alexa Privacy Hub, een wereldwijd beschikbare bron die is bedoeld om klanten te helpen meer te weten te komen over onze benadering van privacy en de controles die zij hebben. We zullen doorgaan met het uitvinden van meer privacyfuncties namens klanten.
Dit artikel is gewijzigd om duidelijk te maken dat de functie "Vraag het aan de luisteraars" een kunstproject is dat is gemaakt door een derde partij.
Over de auteur
Garfield Benjamin, postdoctoraal onderzoeker, School of Media Arts and Technology, Solent University
Dit artikel is opnieuw gepubliceerd vanaf The Conversation onder een Creative Commons-licentie. Lees de originele artikel.
