William Perugini/Shutterstock

af de mange"alvorlige risici for samfundet og menneskeheden”, der har tech-eksperter bekymret over kunstig intelligens (AI), er spredningen af ​​falske billeder en, som daglige internetbrugere vil være bekendt med.

Deepfakes – videoer eller fotografier, hvor en persons ansigt eller krop er blevet digitalt ændret, så de ser ud til at gøre noget, de ikke gør – er allerede blevet brugt til at sprede politisk desinformation , falsk pornografi.

Disse billeder er typisk ondsindede og bruges til at miskreditere motivet. Når det kommer til deepfake pornografi, er langt størstedelen af ​​ofrene er kvinder. Generativ AI – teknologi, der bruges til at skabe tekst, billeder og video – er allerede laver billedbaseret seksuelt misbrug lettere at begå.

En ny sæt love i Storbritannien, vil kriminalisere deling af deepfake pornografi. Men med opmærksomheden på AI og deepfakes kan vi ikke glemme, hvordan mindre sofistikeret teknologi kan bruges som et værktøj til misbrug med ødelæggende konsekvenser for ofrene.

Teknik og kontrol

Da jeg begyndte min forskning i teknologi i voldelige forhold, var deepfakes bare et blik i horisonten. Mit arbejde fokuserede på smartphones rolle i misbrug af kvinder, der var flygtet fra kontrollerende forhold. Jeg fandt ud af, at gerningsmændene til misbrug i hjemmet brugte teknologi til at udvide rækkevidden af ​​deres magt og kontrol over deres partnere, et moderne bud på misbrugstaktik, der blev brugt længe før smartphones var i enhver lomme.

Mobiltelefoner kan bruges direkte til at overvåge og kontrollere, ved hjælp af GPS-sporing eller ved at bombardere et offer med tekster, videoer og taleopkald. En deltager i min forskning i 2019 forklarede, hvordan hendes voldelige partner brugte sin telefon til at få adgang til sociale medier, og sendte hende stødende billeder via Instagram og vedvarende og stødende WhatsApp-beskeder.

Når hun var ude med sine venner, ville han først sende en sms, ringe og derefter videoopkalde hende konstant for at tjekke, hvor hun var, og for at se, hvem hun var sammen med. Da deltageren slukkede for sin telefon, kontaktede hendes daværende partner sine venner og bombarderede dem med sms'er og opkald.

Denne deltager følte sig for flov til at træffe aftaler om at mødes med sin jævnaldrende gruppe og holdt derfor op med at gå ud. Andre i lignende situationer kan blive udelukket fra sociale planer, hvis venner ønsker at undgå at blive kontaktet af deres vens misbruger. En sådan social isolation er en hyppig del af misbrug i hjemmet og en vigtig indikator for kontrollerende forhold.

Ifølge velgørenhedsorganisationen Refuge for vold i hjemmet, mere end 72% af mennesker, der bruger dets tjenester, rapporterer misbrug, der involverer teknologi.

Mobiltelefoner er en gateway til andre gadgets, via "tingenes internet" - enheder, der er internetforbundne og i stand til at udveksle data. Disse værktøjer kan også bevæbnes af misbrugere. For eksempel at bruge mobiltelefoner til ændre temperaturindstillinger på en husholdningstermostat, hvilket skaber ekstremer fra den ene time til den anden.

Forvirrede over dette søger folk forklaringer fra deres partner kun for at få at vide, at dette må være en opdigtet fantasi. Gasbelysningsteknikker som dette får ofrene til at stille spørgsmålstegn ved deres egen fornuft, hvilket underminerer deres tillid til deres egen dømmekraft.

Et moderne panoptikon

Med et klik på en knap giver mobiltelefoner mulighed for hidtil uset overvågning af andre. I lommen på en gerningsmand kan de bruges til at holde øje med nuværende og tidligere partnere når som helst, hvor som helst og - hvis det er tilladt - hvor som helst. Dette giver gerningsmændene en almagts magt, hvilket efterlader ofrene til at tro, at de bliver overvåget, selv når de ikke er det.

Dette leder tankerne hen på værket af 18-tallets filosof Jeremy Bentham, som introducerede begrebet "panoptikon". Bentham foreslog et "perfekt" fængselssystem, hvor et vagttårn sidder i midten, omgivet af individuelle celler.

Isoleret fra hinanden ville fangerne kun se tårnet - en konstant påmindelse om, at de er permanent overvåget, selvom de ikke kan se vagten i det. Bentham mente, at en sådan struktur ville resultere i fangernes selvovervågning, indtil der til sidst ikke var behov for låse eller tremmer.

Min seneste forskning viser, at mobiltelefoner har skabt lignende dynamik inden for voldelige forhold. Telefoner tager rollen som tårnet, og gerningsmændene vagterne i det.

I dette moderne panoptikon kan ofre være ude og gå, synlige for fremmede, venner og familie. Men på grund af telefonens tilstedeværelse føler de, at de stadig bliver overvåget og kontrolleret af deres voldelige partnere.

Som en deltager udtrykte det: ”Du føler, at der ikke er nogen frihed, selv når du er ude. Du føler, at du er låst inde et sted, du har ikke frihed, nogen kontrollerer dig.”

Efterladte efter misbrug fortsætter med at overvåge sig selv, selv når gerningsmændene ikke er der. De handler på måder, som de tror vil glæde (eller i det mindste ikke vrede) deres misbrugere.

Denne adfærd bliver ofte set af andre som mærkelig og alt for let afvist som paranoia, angst eller mere alvorlige psykiske problemer. Fokus bliver på ofrets adfærd og ignorerer årsagen – krænkende eller kriminel adfærd fra deres partner.

Efterhånden som teknologien bliver mere sofistikeret, vil de værktøjer og strategier, der er tilgængelige for misbrugere, fortsætte med at udvikle sig. Dette vil udvide gerningsmændenes rækkevidde og give nye muligheder for overvågning, gasbelysning og misbrug.

Indtil teknologivirksomheder overvejer erfaringerne fra personer, der har overlevet vold i hjemmet, og indbygger sikkerhedsmekanismer i designet af deres produkter, vil misbrug fortsætte med at forblive skjult i almindeligt syn.

Tirion Havard, lektor i socialt arbejde, London South Bank University

Denne artikel er genudgivet fra The Conversation under en Creative Commons-licens. Læs oprindelige artikel.