Amazon Echo og Alexa stemmeassistent har haft bredt offentliggjorte problemer med privatlivets fred. Uanset om det er mængden af data, de indsamler eller det faktum, at de efter sigende betaler medarbejdere og til tider eksterne entreprenører fra hele verden til lyt til optagelser for at forbedre nøjagtigheden, er der potentialet for, at følsomme personlige oplysninger lækkes gennem disse enheder.
Men risikoen strækker sig ikke kun til vores forhold til Amazon. Store fortrolighedshensyn begynder at dukke op i den måde, Alexa-enheder interagerer med andre tjenester på - risikerer en dystopisk spiral af stigende overvågning og kontrol.
Opsætningen af Echo forvandler Amazon til en ekstra gateway, som enhver online interaktion skal passere igennem og indsamler data om hver enkelt. Alexa ved, hvad du søger efter, lytter til eller sender dine meddelelser. Nogle smartphones gør dette allerede, især dem, der er lavet af Google og Apple, der styrer hardware, software og cloud-tjenester.
Men forskellen med et ekko er, at det samler de værste aspekter af smartphones og smarte hjem. Det er ikke en personlig enhed, men integreret i hjemmemiljøet og venter altid på at lytte ind. Alexa har endda et kunstprojekt (ikke oprettet af Amazon), der forsøger at gøre lys over dette med det uhyggelige ”Spørg lytterne”-Funktion, der kommenterer, hvor meget enheden spionerer på dig. Nogle Echo-enheder har allerede kameraer, og hvis der blev tilføjet ansigtsgenkendelsesfunktioner, kunne vi komme ind i en verden af gennemgribende overvågning i vores mest private rum, selv spores, når vi bevæger os mellem steder.
{vembed Y=MnvJ4Bh60L8}
Denne teknologi giver Amazon en enorm mængde kontrol over dine data, hvilket længe har været målet for de fleste af de tekniske giganter. Mens Apple , Google - der står over for deres egne privatlivsproblemer - har lignende stemmeassistenter, de har i det mindste gjort fremskridt med at køre softwaren direkte på deres enheder, så de ikke behøver at overføre optagelser af dine stemmekommandoer til deres servere. Amazon ser ikke ud til at prøve at gøre det samme.
Dette skyldes delvis firmaets aggressive forretningsmodel. Amazons systemer synes ikke kun at være designet til at indsamle så mange data, som de kan, men også til at skabe måder at dele dem på. Så de potentielle problemer løber meget dybere end Alexa, der lytter til private øjeblikke.
Deling med retshåndhævelse
Et område, der bekymrer sig, er potentialet for at sætte ørerne for retshåndhævelse i vores hjem, skoler og arbejdspladser. Apple har en historie om at modstå FBI-anmodninger for brugerdata, og Twitter er relativt gennemsigtig med hensyn til rapportering om hvordan det reagerer på anmodninger fra regeringer.
Men Ring, det internetforbundne hjemmesikkerhedskamerafirma, der ejes af Amazon, har et højt profileret forhold til politiet, der involverer aflevering af brugerdata. Selv den måde, borgere og politi kommunikerer på overvåges og kontrolleres i stigende grad af Amazon.
Lytter altid. Tomasso79 / Shutterstock
Dette risikerer at indlejre en kultur af statsovervågning i Amazons operationer, hvilket kan have bekymrende konsekvenser. Vi har set adskillige eksempler på, at retshåndhævelse og andre regeringsorganer i demokratiske lande bruger personlige data til at spionere på mennesker, begge i overtrædelse af loven og indeni det, men af grunde der går langt ud over forebyggelse af terrorisme. Denne form for masseovervågning skaber også et alvorligt potentiale for diskrimination, da det gentagne gange har vist sig at have en dårligere indvirkning på kvinder , mindretal grupper.
Hvis Amazon ikke er villig til at skubbe tilbage, er det ikke svært at forestille sig Alexa-optagelser overleveres til anmodninger fra statsansatte og retshåndhævende embedsmænd, der måske er villige til at krænke lovens ånd eller bogstav. Og i betragtning af internationale aftaler om efterretningsdeling, selvom du stoler på din egen regering, stoler du på andre?
Som svar på dette spørgsmål sagde en talsmand for Amazon: ”Amazon videregiver ikke kundeoplysninger som reaktion på regeringens krav, medmindre vi er forpligtet til at gøre det for at overholde en juridisk gyldig og blændende ordre. Amazon gør indsigelse mod overdrevne eller på anden måde upassende krav som en selvfølge.
"Ringkunder beslutter, om de vil dele optagelser som svar på anmodninger fra det lokale politi, der efterforsker sager. Lokalt politi kan ikke se nogen information relateret til, hvilke Ring-brugere modtog en anmodning, og om de nægtede at dele eller fravælge fremtidige anmodninger." De tilføjede, at selvom det lokale politi kan få adgang til Ring's Neighbors-app til rapportering af kriminel og mistænkelig aktivitet, kan de ikke se eller få adgang til brugerkontooplysninger.
Sporing af sundhedsspørgsmål
Sundhed er et andet område, hvor Amazon ser ud til at forsøge en overtagelse. Det Forenede Kongeriges National Health Service (NHS) har underskrevet en aftale om lægelig rådgivning leveres via Echo. Til pålydende udvider dette simpelthen måder at få adgang til offentligt tilgængelige oplysninger som NHS-webstedet eller telefonlinje 111 - ingen officielle patientdata deles.
Men det skaber muligheden for, at Amazon kan begynde at spore, hvilke sundhedsoplysninger vi beder om gennem Alexa, effektivt opbygge profiler af brugernes medicinske historie. Dette kunne være knyttet til online shoppingforslag, tredjepartsannoncer for dyre terapier eller endda annoncer, der potentielt er traumatiske (tænk kvinder, der har lidt aborter) bliver vist babyprodukter).
En talsmand for Amazon sagde: ”Amazon bygger ikke kundesundhedsprofiler baseret på interaktioner med nhs.uk-indhold eller bruger sådanne anmodninger til markedsføringsformål. Alexa har ikke adgang til personlige eller private oplysninger fra NHS. ”
Råheden og fejlen ved algoritmisk reklame ville krænke de professionelle og moralske standarder, som sundhedstjenester stræber efter at opretholde. Plus det ville være meget invasivt at behandle dataene på samme måde som mange Echo-optagelser er. Vil du have en tilfældig ekstern entreprenør til at vide, at du beder om seksuel sundhedsrådgivning?
Gennemsigtighed
Baggrunden for disse spørgsmål er manglen på reel gennemsigtighed. Amazon er foruroligende stille, undvigende og tilbageholdende at handle, når det kommer til at tackle privatlivets konsekvenser af deres praksis, hvoraf mange er begravet dybt inden for deres vilkår og betingelser eller svære at finde indstillinger. Selv teknisk kyndige brugere kender ikke nødvendigvis det fulde omfang af privatlivsrisikoen, og når privatlivsfunktioner tilføjes, er de ofte kun gøre brugerne opmærksomme, når forskere eller pressen rejser spørgsmålet. Det er helt uretfærdigt at lægge en sådan byrde på brugerne for at finde ud af og afbøde, hvad disse risici er.
Så hvis du har et ekko i dit hjem, hvad skal du gøre? Der er mange tip tilgængelige på hvordan man gør enheden mere privat, såsom at indstille stemmeoptagelser til automatisk at slette eller begrænse, hvilke data der deles med tredjeparter. Men smart tech er næsten altid overvågningsteknologi, og det bedste råd er ikke at bringe en ind i dit hjem.
Som svar på hovedpunkterne i denne artikel fortalte en talsmand for Amazon The Conversation:
Hos Amazon er kundernes tillid i centrum for alt, hvad vi gør, og vi tager privatliv og sikkerhed meget alvorligt. Vi har altid troet, at privatlivets fred skal være grundlæggende og indbygget i hvert stykke hardware, software og service, vi opretter. Fra starten har vi sat kunderne i kontrol og altid kigget efter måder, der gør det endnu lettere for kunderne at have gennemsigtighed og kontrol over deres Alexa-oplevelse. Vi har introduceret adskillige fortrolighedsforbedringer, herunder muligheden for at få stemmeoptagelser automatisk slettet efter tre eller 18 måneder løbende, muligheden for at bede Alexa om at "slette, hvad jeg lige sagde" og "slette, hvad jeg sagde i dag," og Alexa Privacy Hub, en tilgængelig ressource globalt, der er dedikeret til at hjælpe kunderne med at lære mere om vores tilgang til privatlivets fred og de kontroller, de har. Vi fortsætter med at opfinde flere fortrolighedsfunktioner på vegne af kunder.
Denne artikel er blevet ændret for at gøre det klart, at funktionen "Spørg lyttere" er et kunstprojekt oprettet af en tredjepart.
Om forfatteren
Garfield Benjamin, postdoktoral forsker, School of Media Arts and Technology, Solent University
Denne artikel er genudgivet fra The Conversation under en Creative Commons-licens. Læs oprindelige artikel.
