Din placering er ikke alt, hvad den ved. AP Photo / Mary Altaffer

Ubers forretningsmodel er utrolig enkel: Det er en platform, der letter udveksling mellem mennesker. Og Uber har haft utrolig succes med det, næsten eliminere transaktionsomkostningerne of gøre forretninger i alt fra at pendle folk rundt i byen til at levere mad.

Hvis du bruger Uber - eller måske selvom du ikke gør det - den kender en skat af data om dig, herunder din placering, køn, udgiftshistorie, kontakter, telefonens batteriniveau og endog uanset om du er på vej hjem fra en natstand. Det ved det måske snart om du er fuld eller ej.

Mens det er skræmmende nok, kombiner alle disse data med Ubers ekspertise ved at analysere det gennem linsen på adfærdsvidenskab og du har et farligt potentiale til at udnytte brugere til fortjeneste.

Uber er næppe alene. Vores forskning viser de største digitale platforme - Airbnb, Facebook, eBay og andre - samler så mange data om, hvordan vi lever, at de allerede har evnen til at manipulere deres brugere i stor skala. De kan forudsige adfærd og påvirke vores beslutninger om, hvor de skal klikke, dele og bruge.

Mens de fleste platforme endnu ikke bruger alle disse muligheder, kan manipulation gennem adfærdsmæssige psykologiteknikker forekomme stille og efterlade lidt spor. Hvis vi ikke etablerer vejregler nu, bliver det meget sværere at opdage og stoppe senere.

'Choice-arkitektur'

En platform kan være ethvert rum, der letter transaktioner mellem købere og sælgere. Traditionelle eksempler inkluderer loppemarkeder og handelsgulve.

En digital platform tjener det samme formål, men giver ejeren muligheden for at "formidle" sine brugere, mens de bruger den - og ofte når de ikke er det. Med det mener vi, at det kan observere og lære utrolig meget information om brugeradfærd for at perfektionere, hvad adfærdsforskere kalder “valg af arkitekturer, ”Iøjnefaldende designelementer beregnet til at påvirke menneskelig adfærd gennem hvordan beslutninger præsenteres.

Uber ved, hvornår din telefons batteri bliver lavt. boyhey / Shutterstock.com

For eksempel Uber har eksperimenteret med sine drivere at bestemme de mest effektive strategier for at holde dem på vejen så længe som muligt. Disse strategier inkluderer at spille ind i kognitive forstyrrelser som tabsaversion og overvurdering af begivenheder med lav sandsynlighed, selvom en chauffør næppe tjener nok penge til at gøre det værd for hende. Chauffører ender som spillere på et casino og opfordres til at spille lidt længere på trods af oddsene.

Uber reagerede ikke straks på en anmodning om kommentar.

Airbnb eksperimenterer også med sine brugere. Det har brugt adfærdsvidenskab at få værter til at sænke deres priser og acceptere reservationer uden screening af gæster - hvilket skaber reelle risici for værter, især når de deler deres egen lejlighed.

Selvom disse eksempler virker relativt godartede, demonstrerer de, hvordan digitale platforme er i stand til stille at designe systemer til at dirigere brugernes handlinger på potentielt manipulerende måder.

Og når platforme vokser, bliver de kun bedre arkitekter. Med sin børsintroduktions enorme tilstrømning af investorpenge for at finansiere flere data og adfærdsvidenskab, Kunne Uber bevæge sig ind i farligt uetisk territorium - let at forestille sig givet sin tidligere praksis.

For eksempel, hvis appen anerkender, at du er beruset eller i et kvarter, du sjældent rejser til - og en, som dens data viser, er høj i kriminalitet - kan det opkræve dig en højere sats, idet du ved, at du sandsynligvis ikke vil nægte.

Juridiske udfordringer

Og det er ikke alt sammen spekulation.

I et forsøg på at bedrage retshåndhævelse, der forsøger at undersøge virksomheden, Uber faktisk fundet en måde at identificere regeringsmyndigheder på forsøger at bruge sin app og derefter forhindrede dem i at få rides.

Det er en grund til, at lovgivere og regulatorer har diskuteret de vanskelige, indbyrdes forbundne roller adfærdsmæssig videnskab og teknologi årevis. Og nogle virksomheder, Uber især er blevet undersøgt for en række dårlige forretningsmetoder fra diskrimination til misbrug af brugerdata.

Men det meste af den manipulation, vi har identificeret og bekymrer os om, er ikke udtrykkeligt ulovlig. Og fordi tilsynsmyndigheder ofte ikke er i stand til at holde trit med den stadigt udviklende brug af teknologi og valgarkitektur, forbliver det sandsynligvis.

I betragtning af fraværet af veldefinerede og håndhævelige juridiske gelændre forbliver platformvirksomheders tilbøjelighed til at udnytte adfærdsvidenskab på brugernes regning stort set ukontrolleret.

En etisk kode

En løsning er efter vores mening at etablere en etisk kode, som platformvirksomheder skal følge. Og hvis de ikke vedtager det villigt, kan investorer, medarbejdere og brugere kræve det.

Siden midten af ​​det 20. århundrede, skrevne koder for etisk adfærd har været en hæfteklammer af amerikanske virksomheder. De juridiske og medicinske erhverv har påberåbt sig dem forum årtusinder. Og forskning tyder på de er effektive til at tilskynde til etisk adfærd hos virksomheder.

Vi gennemgik hundredvis af etiske koder, herunder dem der er målrettet mod tech- og computervirksomheder. Baseret på vores forskning opfordrer vi digitale platforme til at vedtage fem etiske retningslinjer:

1. Alt valgarkitektur, der anvendes på en platform, skal være fuldstændig gennemsigtig. Platforme skal offentliggøre, når de bruger adfærdsvidenskabens værktøjer til at påvirke brugeradfærd

2. Brugere skal være i stand til at træffe valg på platformen frit og let, og valgarkitekter bør begrænse adfærdsmæssige indgreb til påmindelser eller meddelelser, der er mindst skadelige for brugerens autonomi.

3. Platforme bør undgå at "knuffe" brugere på måder, der udnytter ubevidst og irrationel beslutningstagning baseret på impuls og følelser. Ny forskning viser, at gennemsigtig valgarkitektur kan fungere lige så godt

4. Platforme bør anerkende den magt, de besidder, og passe på ikke at udnytte de markeder, de har skabt, herunder ved at misbruge informationsasymmetrier mellem sig selv og brugere eller modsætte sig rimelige regler

5. Platforme bør undgå at bruge valgarkitektur, der afskrækker brugerne fra at handle i deres egen interesse. Som Nobelprisvindende adfærdsøkonom Richard Thaler Læg det, skal vi kun "skubbe for godt."

Big tech og adfærdsvidenskab er nu integreret på måder, der gør virksomheder vildt succesrige fra summende tandbørster at gøre rengøring af tænderne synes givende for ved hjælp af tekster til at skubbe fattige mødre til at bruge sundhedspleje.

Mens resultaterne kan forbedre vores liv betydeligt, gør det det også lettere end nogensinde før for virksomheder at manipulere brugerne til at forbedre deres bundlinjer.

Om forfatterne

Abbey Stemler, lektor i forretningsret og etik, Indiana University; Joshua E. Perry, lektor i forretningsret og etik, Indiana Universityog Todd Haugh, lektor i forretningsret og etik, Indiana University

Denne artikel er genudgivet fra The Conversation under en Creative Commons-licens. Læs oprindelige artikel.

Relaterede bøger

at InnerSelf Market og Amazon