Den flygtige blanding af deepfakes og politiske kampagner er en god grund til at være på vagt. Sean Anthony Eddy Creative/E+ via Getty Images
Forestil dig en Oktober overraskelse som ingen anden: Kun en uge før 5. november 2024 afslører en videooptagelse et hemmeligt møde mellem Joe Biden og Volodymyr Zelenskyy. De amerikanske og ukrainske præsidenter er enige om øjeblikkeligt at indvie Ukraine i NATO under "den særlige nødmedlemskabsprotokol" og forberede sig på et atomvåbenangreb mod Rusland. Pludselig er verden på kanten af Harmageddon.
Mens journalister kunne påpege det en sådan protokol findes ikke og brugere af sociale medier vil måske bemærke mærkelige videospilagtige kvaliteter ved videoen, andre vil måske føle det deres værste frygt er blevet bekræftet. Når valgdagen kommer, kan disse bekymrede borgere lade videoen svinge deres stemmer, uvidende om, at de lige er blevet manipuleret af en situation, der er dybt falsk – en begivenhed, der faktisk aldrig fandt sted.
Situation deepfakes repræsenterer næste fase af teknologier, der har allerede rystede publikums opfattelse af virkeligheden. I vores forskning på DeFake projekt, mine kolleger på Rochester Institute of Technology, University of Mississippi, Michigan State University og jeg studere, hvordan deepfakes laves, og hvilke foranstaltninger vælgerne kan tage for at forsvare sig mod dem.
At forestille sig begivenheder, der aldrig er sket
En deepfake skabes, når nogen bruger et kunstig intelligensværktøj, især dyb læring, for at manipulere eller generere en ansigt, en stemme eller – med fremkomsten af store sprogmodeller ligesom ChatGPT - samtalesprog. Disse kan kombineres for at danne "situationsdeepfakes".
Den grundlæggende idé og teknologi i en situationsdeepfake er den samme som med enhver anden deepfake, men med en dristigere ambition: at manipulere en virkelig begivenhed eller opfinde en fra den blå luft. Som eksempler kan nævnes afbildninger af Donald Trumps skurkegang , Trump krammer Anthony Fauci, hvoraf ingen af dem skete. Kramskuddet blev promoveret af en Twitter-konto forbundet med præsidentkampagnen af Trump-rivalen Ron DeSantis. An angrebsannonce rettet mod Joe Bidens 2024-kampagne udgivet af den republikanske nationale komité var lavet udelukkende med AI.
Ved DeFake projektVores forskning har fundet at deepfakes, herunder situationer, typisk skabes af en eller anden blanding af tilføje et stykke medie med et andet; ved hjælp af en video for at animere et billede eller ændre en anden video, døbt dukkespil; trylle et stykke medie til eksistens, typisk ved hjælp af generativ AI; eller en kombination af disse teknikker.
For at være klar, er mange situationsdeepfakes lavet til uskyldige formål. For eksempel, Infinite Odyssey Magazine producerer falske stillbilleder fra film, der blev aldrig produceret or aldrig kunne have eksisteret. Men selv uskyldige deepfakes giver anledning til pause, som i tilfældet med næsten troværdige falske fotografier, der afbilder Apollo månelanding som en filmproduktion.
Deepfaking et valg
Sæt dig nu i en situation, som en person, der forsøger at påvirke det kommende valg. Hvad er de mulige situationer, du måske ønsker at skabe?
For det første ville det være ligegyldigt, om du ville vippe afstemningen mod eller væk fra et bestemt resultat. Måske ville du portrættere en kandidat, der opfører sig heroisk ved at trække en fodgænger ud af vejen for en fartbil eller omvendt gøre noget stødende eller kriminelt. Formatet på situationen deepfake ville også have betydning. I stedet for en video kan det være et fotografi, måske med sløring og vinkler, der simulerer et smartphone-kamera eller et nyhedsbureaus forfalskede logo.
Din målgruppe ville være nøglen. I stedet for at sigte efter de almindelige vælgere eller et partis base, kan du måske målrette mod konspirationsteoretikere i vigtige valgdistrikter. Du kan fremstille kandidaten eller deres familiemedlemmer som engageret i en satanisk ritual, der deltager i en festival på eksklusiv og kontroversiel Bohemian Groveeller have en hemmeligt møde med en udenjordisk.
Hvis du har ambitionerne og evnerne til det, kan du endda prøve at deepfake selve valget. I juni 2023 blev Ruslands tv- og radiostationer hacket og udsende en fuld mobiliseringsordre ved en deepfake af den russiske præsident Vladimir Putin. Selvom dette ville være sværere at gøre ved et amerikansk valg, kan ethvert nyhedsmedie i princippet blive hacket til at udsende deepfakes af deres ankre, der annoncerer de forkerte resultater eller en kandidat, der indrømmer.
At forsvare virkeligheden
Der er en række forskellige teknologiske og psykologiske måder at opdage og forsvare sig mod situationens dybe falske.
På den teknologiske front indeholder alle deepfakes nogle beviser for deres sande natur. Nogle af disse fortællinger kan ses af det menneskelige øje - som for glat hud eller mærkelig belysning eller arkitektur - mens andre kan være kun detekteres af en deepfake-jagt AI.
Vi bygger DeFake's detektor til at bruge AI til at fange de afslørende tegn på deepfakes, og vi arbejder på at forsøge at have den klar i tide til valget i 2024. Men selvom en tilstrækkelig kraftig deepfake-detektor som vores ikke kan indsættes inden valgdagen, er der psykologiske værktøjer, som du, vælgeren, kan bruge til at identificere deepfakes: baggrundsviden, nysgerrighed og sund skepsis.
Hvis du støder på medieindhold om en person, et sted eller en begivenhed, der virker ukarakteristisk, så stol på din baggrundsviden. For eksempel i en seneste fup af en brand i Pentagon, den viste bygning ser mere firkantet ud end femkantet, hvilket kunne være en giveaway.
Prøv dog ikke at stole helt på din baggrundsviden, som kan være fejlagtig eller usammenhængende. Vær aldrig bange for at lære mere fra pålidelige kilder, såsom faktatjekkede nyhedsrapporter, peer-reviewede akademiske artikler eller interviews med anerkendte eksperter.
Derudover skal du være opmærksom på, at deepfakes kan bruges til at udnytte det, du er tilbøjelig til at tro om en person, et sted eller en begivenhed. En af de bedste måder at håndtere dette på er simpelthen at være opmærksom på dine skævheder og vær lidt på vagt over for alt medieindhold, der ser ud til at bekræfte dem.
Selvom det bliver muligt at skabe perfekte situationsdeepfakes, vil hvor troværdigt deres emne er, sandsynligvis forblive deres akilleshæl. Så med eller uden en teknologisk løsning har du stadig magten til at forsvare valget mod påvirkning fra falske begivenheder.
Om forfatteren
Christopher Schwartz, Postdoktoral Research Associate of Computing Security, Rochester Institute of Technology
Denne artikel er genudgivet fra The Conversation under en Creative Commons-licens. Læs oprindelige artikel.
Relaterede Bøger:
Om Tyranni: Tyve lektioner fra det tyvende århundrede
af Timothy Snyder
Denne bog giver erfaringer fra historien til at bevare og forsvare demokratiet, herunder betydningen af institutioner, de enkelte borgeres rolle og farerne ved autoritarisme.
Klik for mere info eller for at bestille
Vores tid er nu: magt, formål og kampen for et retfærdigt Amerika
af Stacey Abrams
Forfatteren, en politiker og aktivist, deler sin vision for et mere rummeligt og retfærdigt demokrati og tilbyder praktiske strategier for politisk engagement og vælgermobilisering.
Klik for mere info eller for at bestille
Hvordan demokratier dør
af Steven Levitsky og Daniel Ziblatt
Denne bog undersøger advarselstegnene og årsagerne til demokratisk sammenbrud og trækker på casestudier fra hele verden for at give indsigt i, hvordan man beskytter demokratiet.
Klik for mere info eller for at bestille
Folket, nr.: En kort historie om anti-populisme
af Thomas Frank
Forfatteren giver en historie om populistiske bevægelser i USA og kritiserer den "anti-populistiske" ideologi, som han hævder har kvælt demokratiske reformer og fremskridt.
Klik for mere info eller for at bestille
Demokrati i én bog eller mindre: Hvordan det virker, hvorfor det ikke gør det, og hvorfor det er nemmere, end du tror
af David Litt
Denne bog giver et overblik over demokrati, herunder dets styrker og svagheder, og foreslår reformer for at gøre systemet mere lydhørt og ansvarligt.
