Ahmet Misirligul / Shutterstock

Kortfilmen Slaughterbots skildrer en nær fremtid, hvor sværme af mikro-droner myrder tusinder af mennesker for deres politiske overbevisning. Udgivet i november 2017 af akademikere og aktivister, der advarer om farerne ved avanceret kunstig intelligens (AI), gik det hurtigt viralt og tiltrækkede over 3m synspunkter til dato. Det hjalp med at udløse en offentlig debat om fremtiden for autonome våben og lægge pres på diplomater, der mødes i De Forenede Nationer Konvention om konventionelle våben.

Men denne form for spekulativ historiefortælling i science fiction er ikke kun nyttig til at tiltrække opmærksomhed. De mennesker, der designer og bygger avanceret teknologi, kan bruge historier til at overveje konsekvenserne af deres arbejde og sikre, at det bruges til gode. Og vi tror, ​​at denne form for "science fiction prototyping" eller "design fiction" kan hjælpe med at forhindre menneskelige partiske fordele fra at arbejde sig ind i ny teknologi og yderligere forankre samfundets fordomme og uretfærdigheder.

{vembed Y=9CO6M2HsoIA}

En bias kan føre til vilkårlige præferencer for nogle kategorier (af resultater, mennesker eller ideer) frem for andre. For eksempel kan nogle mennesker være partiske mod at ansætte kvinder til udøvende job, uanset om de er opmærksomme på det eller ikke.

Teknologi, der er bygget op omkring data, der registrerer en sådan bias, kan ende gentager problemet. For eksempel kan rekrutteringssoftware, der er designet til at vælge de bedste CV'er til et bestemt job, programmeres til at kigge efter egenskaber, der afspejler en ubevidst bias over for mænd. I hvilket tilfælde ender algoritmen med at favorisere mænds CV'er. Og dette er ikke teoretisk - det faktisk skete med Amazon.

Design af algoritmer uden at overveje mulige negative implikationer er blevet sammenlignet til læger ”skriver om fordelene ved en given behandling og ignorerer bivirkningerne uanset hvor alvorlige de er”.

Nogle teknologifirmaer og forskere forsøger at tackle problemet. For eksempel udarbejdede Google en sæt etiske principper at vejlede dens udvikling af AI. Og britiske akademikere har lanceret et kaldet initiativ Ikke-Equal der sigter mod at tilskynde til større retfærdighed og retfærdighed i design og anvendelse af teknologi.

Problemet er, at virksomheder offentligt har en tendens til kun at levere en positiv vision om de potentielle konsekvenser af teknologier, der er nær fremtid. F.eks. Fremstilles førerløse biler ofte som at løse alle vores transportproblemer fra omkostninger til sikkerhed og ignorere de øgede farerne ved cyberangreb eller det faktum, at de kunne tilskynde folk til gå eller cykle mindre.

Vanskeligheden med at forstå, hvordan digitale teknologier fungerer, især dem, der er stærkt drevet af uklare algoritmer, gør det også sværere for folk at have et komplekst og omfattende overblik over problemerne. Denne situation producerer en spænding mellem en betryggende positiv fortælling og den vage mistanke om, at partier er til en vis grad indlejret i teknologierne omkring os. Det er her vi tror, ​​at historiefortælling gennem designfiktion kan komme ind.

Historier er en naturlig metode til at tænke på muligheder og komplekse situationer, og vi har hørt dem hele vores liv. Science fiction kan hjælpe os med at spekulere i virkningen af ​​nær fremtidsteknologier på samfundet, som Slaughterbots gør. Dette kan endda omfatte spørgsmål om social retfærdighed, ligesom den slags bestemte grupper, såsom flygtninge og migranter, kan være udelukket fra digitale innovationer.

At afsløre (mulig) fremtid

Design fiktion historier skabe en ny måde for designere, ingeniører og futurister (blandt andre) til at tænke på virkningen af ​​teknologi fra et menneskeligt perspektiv og knytte dette til mulige fremtidige behov. Med en blanding af logik og fantasi kan design-fiktion afsløre aspekter af, hvordan teknologi kan blive brugt og brugt, idet man starter samtaler om det fremtidige konsekvenser.

F.eks. Novellen “Kriminalitet-sourcing”Udforsker, hvad der kunne ske, hvis AI skulle bruge information fra folkemængderne og en kriminel database til at forudsige, hvem der kunne begå et mord. Forskerne fandt, at fordi databasen var fuld af mennesker i etniske mindretalsgrupper, der af sociale grunde statistisk set var mere tilbøjelige til at fornævne, var det mere sandsynligt, at "kriminel sourcing" -modellen forkert mistænkte minoriteter end hvide mennesker.

Du behøver ikke at være en talentfuld forfatter eller lave en glat film for at producere designfiktion. Brainstorming-aktiviteter, der involverer kort og storyboards er blevet brugt at udvikle designfiktion og hjælpe med at udvikle fortællingsprocessen. At gøre workshops, der brugte denne slags værktøjer mere almindelige, ville gøre det muligt for flere ingeniører, iværksættere og beslutningstagere at bruge denne vurderingsmetode. Og at gøre det resulterende arbejde offentligt tilgængeligt ville hjælpe med at afsløre potentielle partier i teknologier, før de påvirker samfundet.

Opmuntring af designere til at skabe og dele flere historier på denne måde ville sikre, at fortællingen, der understøtter ny teknologi, ikke bare ville give et positivt billede, heller ikke et ekstremt negativt eller dystopisk. I stedet vil folk være i stand til at sætte pris på begge aspekter af, hvad der sker omkring os.

Om forfatterne

Alessio Malizia, Professor i design af brugeroplevelse, University of Hertfordshire , Silvio Carta, Leder af kunst og design og formand for designforskningsgruppen, University of Hertfordshire

Denne artikel er genudgivet fra The Conversation under en Creative Commons-licens. Læs oprindelige artikel.