ULU_BIRD / Shutterstock.com

Mustafa elsker god kaffe. I sin fritid gennemsøger han ofte avancerede kaffemaskiner, som han ikke har råd til i øjeblikket, men sparer til. En dag rejser han til en vens bryllup i udlandet og sidder ved siden af ​​en anden ven på flyet. Når Mustafa klager over, hvor meget han betalte for sin billet, viser det sig, at hans ven betalte mindre end halvdelen af ​​det, han betalte, selvom de bookede omkring samme tid.

Han undersøger mulige årsager til dette og konkluderer, at det skal være relateret til hans gennemsøgning af dyre kaffemaskiner og udstyr. Han er meget vred over dette og klager til flyselskabet, der sender ham en lunken undskyldning, der henviser til personlige prisfastsættelsesmodeller. Mustafa føler, at dette er uretfærdigt, men udfordrer det ikke. At forfølge det yderligere ville koste ham tid og penge.

Denne historie - som er hypotetisk, men kan og forekommer - demonstrerer potentialet for mennesker til at blive skadet af dataanvendelse i den nuværende "big data" æra. Big data-analyse involverer brug af store mængder data fra mange kilder, som er knyttet og analyseret for at finde mønstre, der hjælper med at forudsige menneskelig adfærd. En sådan analyse, selv når den er fuldstændig lovlig, kan skade mennesker.

Mustafa har for eksempel sandsynligvis været påvirket af personlig prisfastsættelse, hvor hans søgning efter avancerede kaffemaskiner er blevet brugt til at antage visse antagelser om hans betalingsvillighed eller købekraft. Dette kan igen have ført til hans højere pris. Selvom dette ikke har resulteret i alvorlig skade i Mustafas tilfælde, er tilfælde af alvorlig følelsesmæssig og økonomisk skade desværre ikke sjældne, inklusive afslag på pant for enkeltpersoner og risici for en persons generelle kreditværdighed baseret på tilknytning til andre personer. Dette kan ske, hvis en person deler nogle lignende egenskaber som andre personer, der har dårlige tilbagebetalingshistorikker.

Der kan også forekomme tilfælde af følelsesmæssig skade. Forestil dig et par, der finder ud af, at de forventer et meget eftersøgt barn, men får abort efter fem måneder. Parret kan finde ud af, at de fortsætter med at modtage reklamer fra butikker, der specialiserer sig i spædbarnsprodukter måneder senere, og fejrer, hvilket burde have været de vigtigste "milepæle", der forårsagede nød. Dette er en anden hypotetisk, men helt muligt scenario.

Loven - eller manglen på den

I mange af disse tilfælde har de, der blev skadet af databrug, begrænset eller ingen juridiske valgmuligheder, fordi den skadelige praksis muligvis ikke har brudt nogen love. Hvad der skete med Mustafa, for eksempel, var helt lovligt, da der ikke er nogen nuværende love, der forbyder personlig prisfastsættelse som sådan. Vores nuværende retssystemer beskytter ikke tilstrækkeligt folk mod de skader, der opstår ved big data.

Dette skyldes, at det er meget vanskeligt at spore, hvordan vores data linkes og bruges. Selv hvis flyselskabet havde gjort noget ulovligt, såsom brudte databeskyttelseslove, ville det være næsten umuligt for Mustafa at finde ud af det. Mennesker, der føler, at de er blevet skadet af databrug, kan kæmpe for at vise, hvordan deres data er blevet brugt til at forårsage denne skade, hvilke data der var involveret, eller hvilken databehandler, der brugte dem. Og så mangler de muligvis det bevis, de har brug for for at få et retsmiddel.

Desuden, selvom de viser, hvordan noget nogen gjorde med deres data skadede dem, den særlige brug af kunde information, for at justere priser for eksempel, kan ikke være ulovlig.

Ligeledes kan skaden ikke forårsages af ens egne data, men af ​​brugen af ​​andres data (tredjepartsdata). For eksempel kan det i Mustafas tilfælde være, at andre personer, der også var interesserede i dyre kaffemaskiner, havde meget høje indkomster eller købte dyre genstande. Dette kan have været brugt til at antyde, at Mustafa også faldt ind i denne kategori, hvilket kan have resulteret i højere priser for ham for andre produkter. En person, der er skadet ved brug af tredjepartsdata, har ofte ikke retsmidler i henhold til gældende databeskyttelseslove.

Virksomheder antager måske ting om dig fra dine browservaner. Besætning / afbrydelse, FAL

Et nyt system

For at hjælpe med at løse sådanne problemer, vi skændes at vi er nødt til at acceptere, at nogle risici ved dataforbrug ikke kan forhindres. I stedet for udelukkende at fokusere på at forsøge at minimere eller undgå sådanne risici, er vi også nødt til at finde måder til bedre at støtte mennesker, der lider skade af dataanvendelse, for eksempel ved aktivt at overvåge og reagere på skader forårsaget af databrug, herunder lovlig anvendelse af data.

Vi mener, at der som en del af dette system skal oprettes en ny type institution. Vi kalder dem skadedæmpende organer. Disse ville blive oprettet på nationalt plan, og folk, der følte, at de blev skadet af dataanvendelse, men ikke var berettigede til retsmidler, kunne gå til dem for at rapportere den skade, de mener stammer fra databrug. I modsætning til traditionelle retsmidler kunne skadedæmpende organer yde støtte selv i tilfælde, hvor ingen love blev brudt. De ville være lette for folk at bruge og fleksible, så de kunne støtte folk, hvor og hvordan de mest har brug for det, hvilket giver enkeltpersoner mere magt og styrker det kollektive ansvar for databrug.

Disse foreslåede organer ville indsamle oplysninger om, hvilke typer skader der opstår: i øjeblikket er der ingen nationale eller internationale organer, der systematisk indsamler oplysninger om dataskader. De vil også give feedback til politiske beslutningstagere og databrugere for at hjælpe med at forbedre, hvordan tingene gøres. Og i tilfælde, hvor folk lider økonomiske skader, men ikke har adgang til juridisk hjælp, kan de også yde økonomisk støtte.

Big data-analyse roses med rette for de mange nye muligheder, den giver. Men det vil være uundgåeligt, at nogle mennesker bliver skadet. Som samfund er vi nødt til at se denne sandhed i øjnene og yde bedre hjælp til dem, der lider skade, så ingen, der bærer omkostningerne ved denne nye praksis, bliver alene.

Om forfatterne

Aisling McMahon, lektor i jura, National University of Ireland Maynooth; Alena Buyx, professor i etik, Technical University of Munichog Barbara Prainsack, professor i sammenlignende politikanalyse, University of Vienna

Denne artikel er genudgivet fra The Conversation under en Creative Commons-licens. Læs oprindelige artikel.