robot sidder ved en bærbar computer med hænderne på tasterne
Billede af Susan Cipriano 

Fra redaktøren:

Som fremhævet i denne artikel kan udviklingen af ​​AI-drevne politiske kampagner, såsom den hypotetiske maskine kaldet Clogger, dybt underminere valgenes integritet. Ved at udnytte automatisering, skræddersyet meddelelser og forstærkende læring har disse maskiner potentialet til at manipulere og ændre vælgernes adfærd i massiv skala.

I en æra, hvor kunstig intelligens (AI) udvikler sig hurtigt, skal vi forblive på vagt over for de potentielle trusler, den udgør for vores demokratiske processer. Fremkomsten af ​​AI-drevne kampagner udfordrer selve essensen af ​​demokrati. I stedet for at valg bestemmes af kraften i ideer, politiske forslag og ægte vælgervalg, kunne de blive styret af maskiner, der udelukkende fokuserede på sejr. Det indhold, der hersker, ville komme fra AI-sprogmodeller uden hensyntagen til sandhed eller politiske principper. I det væsentlige ville valgresultatet være dikteret af en kunstig intelligens, der eroderer den demokratiske proces.

For at forhindre fremkomsten af ​​et "klogokrati" og afmagring af borgerne er det afgørende, at vi skrider til handling. Forbedret privatlivsbeskyttelse og stærke love om databeskyttelse kan hjælpe med at begrænse adgangen til AI-maskiner til personlige data, hvilket reducerer deres effektivitet med hensyn til at målrette og manipulere enkeltpersoner. Valgkommissioner bør også overveje at forbyde eller strengt regulere AI-systemer designet til at påvirke vælgerne. Implementering af regler, der kræver klare ansvarsfraskrivelser, når AI-genererede budskaber bruges i politiske kampagner. Dette kan give gennemsigtighed og hjælpe vælgerne med at træffe informerede beslutninger.

Det er bydende nødvendigt, at vi løser disse udfordringer proaktivt og sikrer, at AI-kraften udnyttes ansvarligt til at opretholde demokratiets principper. Ved at beskytte valgenes integritet og beskytte valgfriheden kan vi navigere i kompleksiteten af ​​kunstig intelligens og bevare grundlaget for demokratisk regeringsførelse.

Hvordan AI kunne overtage valg – og underminere demokratiet

Skrevet af Archon Fung, professor i medborgerskab og selvstyre, Harvard Kennedy School , Lawrence Lessig, professor i jura og ledelse, Harvard University


indre selv abonnere grafik


Kunne organisationer bruge kunstig intelligens sprogmodeller såsom ChatGPT til at få vælgerne til at opføre sig på bestemte måder?

Sen. Josh Hawley stillede OpenAI CEO Sam Altman dette spørgsmål i en 16. maj 2023, høring i det amerikanske senat om kunstig intelligens. Altman svarede, at han faktisk var bekymret for, at nogle mennesker kunne bruge sprogmodeller til at manipulere, overtale og engagere sig i en-til-en-interaktioner med vælgere.

Altman uddybede det ikke, men han kunne have haft noget som dette scenario i tankerne. Forestil dig, at politiske teknologer snart udvikler en maskine kaldet Clogger - en politisk kampagne i en sort boks. Clogger forfølger ubønhørligt kun ét mål: at maksimere chancerne for, at dens kandidat – kampagnen, der køber tjenester fra Clogger Inc. – vinder i et valg.

Mens platforme som Facebook, Twitter og YouTube bruger former for kunstig intelligens til at få brugerne til bruge mere tid på deres websteder ville Cloggers AI have et andet mål: at ændre folks stemmeadfærd.

Hvordan Clogger ville fungere

Som en statsvidenskabsmand og en juridisk lærd som studerer krydsfeltet mellem teknologi og demokrati, mener vi, at noget som Clogger kunne bruge automatisering til dramatisk at øge omfanget og potentielt effektiviteten af adfærdsmanipulation og mikromålretningsteknikker som politiske kampagner har brugt siden begyndelsen af ​​2000'erne. Ligesom annoncører bruger din browsing og sociale medier historie for individuelt at målrette kommercielle og politiske annoncer nu, ville Clogger være opmærksom på dig – og hundredvis af millioner af andre vælgere – individuelt.

Det ville tilbyde tre fremskridt i forhold til den nuværende state-of-the-art algoritmiske adfærdsmanipulation. For det første ville dens sprogmodel generere beskeder - tekster, sociale medier og e-mail, måske inklusive billeder og videoer - skræddersyet til dig personligt. Hvor annoncører strategisk placerer et relativt lille antal annoncer, kan sprogmodeller som ChatGPT generere utallige unikke beskeder til dig personligt – og millioner til andre – i løbet af en kampagne.

For det andet ville Clogger bruge en teknik kaldet forstærkning læring at generere en række meddelelser, der bliver mere og mere tilbøjelige til at ændre din stemme. Forstærkningslæring er en maskinlæring, prøve-og-fejl-tilgang, hvor computeren foretager handlinger og får feedback om, hvad der virker bedst for at lære, hvordan man opnår et mål. Maskiner, der kan spille Go, Skak og mange videospil bedre end noget menneske har brugt forstærkende læring.

Hvordan forstærkende læring fungerer.

 

For det tredje, i løbet af en kampagne, kunne Cloggers budskaber udvikle sig for at tage hensyn til dine svar på maskinens tidligere afsendelser, og hvad den har lært om at ændre andres mening. Clogger ville være i stand til at føre dynamiske "samtaler" med dig - og millioner af andre mennesker - over tid. Cloggers beskeder ville ligne annoncer, der følger dig på tværs af forskellige hjemmesider og sociale medier.

Arten af ​​AI

Yderligere tre funktioner – eller fejl – er værd at bemærke.

For det første kan de beskeder, som Clogger sender, være af politiske indhold eller ikke. Maskinens eneste mål er at maksimere stemmeandelen, og den ville sandsynligvis udtænke strategier for at nå dette mål, som ingen menneskelig forkæmper ville have tænkt på.

En mulighed er at sende sandsynlige modstandervælgere information om ikke-politiske lidenskaber, som de har inden for sport eller underholdning for at begrave de politiske budskaber, de modtager. En anden mulighed er at sende afskrækkende beskeder – for eksempel inkontinensreklamer – tidsindstillet til at falde sammen med modstandernes beskeder. Og en anden er at manipulere vælgernes vennegrupper på sociale medier for at give en fornemmelse af, at deres sociale kredse støtter dens kandidat.

For det andet har Clogger ingen hensyn til sandheden. Faktisk har den ingen mulighed for at vide, hvad der er sandt eller falsk. Sprogmodel "hallucinationer" er ikke et problem for denne maskine, fordi dens formål er at ændre din stemme, ikke at give nøjagtige oplysninger.

For det tredje, fordi det er en sort boks type kunstig intelligens, ville folk ikke have nogen måde at vide, hvilke strategier den bruger.

Området med forklarlig AI sigter mod at åbne den sorte boks i mange maskinlæringsmodeller, så folk kan forstå, hvordan de fungerer.

 

Klogokrati

Hvis den republikanske præsidentkampagne skulle indsætte Clogger i 2024, ville den demokratiske kampagne sandsynligvis være tvunget til at reagere i naturalier, måske med en lignende maskine. Kald det Dogger. Hvis kampagnelederne troede, at disse maskiner var effektive, kunne præsidentkonkurrencen meget vel komme ned til Clogger vs. Dogger, og vinderen ville være klienten til den mere effektive maskine.

Politiske videnskabsmænd og eksperter ville have meget at sige om, hvorfor den ene eller den anden AI sejrede, men sandsynligvis ville ingen rigtig vide det. Præsidenten vil ikke være blevet valgt fordi hans eller hendes politiske forslag eller politiske ideer overtalte flere amerikanere, men fordi han eller hun havde den mere effektive AI. Indholdet, der vandt dagen, ville være kommet fra en kunstig intelligens, der udelukkende var fokuseret på sejr, uden egne politiske ideer, snarere end fra kandidater eller partier.

I denne meget vigtige forstand ville en maskine have vundet valget i stedet for en person. Valget ville ikke længere være demokratisk, selvom alle demokratiets almindelige aktiviteter – talerne, annoncerne, budskaberne, afstemningen og optællingen af ​​stemmer – vil have fundet sted.

Den AI-valgte præsident kunne så gå en af ​​to veje. Han eller hun kunne bruge valgets kappe til at føre republikansk eller demokratisk partipolitik. Men fordi partiideerne måske havde lidt at gøre med, hvorfor folk stemte, som de gjorde – Clogger og Dogger er ligeglade med politiske synspunkter – ville præsidentens handlinger ikke nødvendigvis afspejle vælgernes vilje. Vælgerne ville være blevet manipuleret af AI i stedet for frit at vælge deres politiske ledere og politikker.

En anden vej er for præsidenten at forfølge de budskaber, adfærd og politikker, som maskinen forudser vil maksimere chancerne for genvalg. På denne vej ville præsidenten ikke have nogen særlig platform eller dagsorden ud over at bevare magten. Præsidentens handlinger, styret af Clogger, ville være dem, der med størst sandsynlighed ville manipulere vælgerne frem for at tjene deres ægte interesser eller endda præsidentens egen ideologi.

Undgå klogokrati

Det ville være muligt at undgå manipulation af AI-valg, hvis kandidater, kampagner og konsulenter alle forlod brugen af ​​sådan politisk AI. Det mener vi er usandsynligt. Hvis der blev udviklet politisk effektive sorte bokse, ville fristelsen til at bruge dem være næsten uimodståelig. Faktisk kunne politiske konsulenter meget vel se at bruge disse værktøjer som krævet af deres professionelle ansvar for at hjælpe deres kandidater med at vinde. Og når først én kandidat bruger et så effektivt værktøj, kunne modstanderne næppe forventes at gøre modstand ved at afvæbne ensidigt.

Forbedret beskyttelse af privatlivets fred ville hjælpe. Clogger ville afhænge af adgang til enorme mængder af personlige data for at målrette mod enkeltpersoner, udforme beskeder skræddersyet til at overtale eller manipulere dem og spore og retarge dem i løbet af en kampagne. Hver bit af den information, som virksomheder eller politikere benægter maskinen, ville gøre den mindre effektiv.

Stærke love om databeskyttelse kan hjælpe med at styre AI væk fra at være manipulerende.

 

En anden løsning ligger hos valgkommissionerne. De kunne forsøge at forbyde eller strengt regulere disse maskiner. Der er en hård debat om hvorvidt sådanne "replikant" tale, selvom det er af politisk karakter, kan reguleres. USA's ekstreme ytringsfrihedstradition får mange førende akademikere til at sige, at det ikke kan.

Men der er ingen grund til automatisk at udvide beskyttelsen af ​​det første ændringsforslag til produktet af disse maskiner. Nationen kunne godt vælge at give maskiner rettigheder, men det burde være en beslutning baseret på dagens udfordringer, ikke den malplacerede antagelse at James Madisons synspunkter i 1789 var beregnet til at gælde for AI.

EU-regulatorer bevæger sig i denne retning. Politikere reviderede Europa-Parlamentets udkast til sin lov om kunstig intelligens for at udpege "AI-systemer til at påvirke vælgere i kampagner" som "høj risiko" og underlagt lovgivningsmæssig kontrol.

Et forfatningsmæssigt sikrere, hvis mindre, trin, allerede delvist vedtaget af europæiske internetregulatorer og i Californien, er at forbyde bots i at udgive sig som mennesker. For eksempel kan regulering kræve, at kampagnebudskaber kommer med ansvarsfraskrivelser, når det indhold, de indeholder, er genereret af maskiner i stedet for mennesker.

Dette ville være ligesom kravene til reklamefraskrivelse – "Betalt af Sam Jones for Congress Committee" - men modificeret for at afspejle dens AI-oprindelse: "Denne AI-genererede annonce blev betalt af Sam Jones for Congress Committee." En stærkere version kunne kræve: "Denne AI-genererede besked bliver sendt til dig af Sam Jones for Congress Committee, fordi Clogger har forudsagt, at det vil øge dine chancer for at stemme på Sam Jones med 0.0002 %." Vi mener i det mindste, at vælgerne fortjener at vide, hvornår det er en bot, der taler til dem, og de burde også vide hvorfor.

Muligheden for et system som Clogger viser, at vejen mod menneskelig kollektiv afmagt kræver måske ikke noget overmenneske kunstig generel intelligens. Det kræver måske bare overivrige kampagnefolk og konsulenter, som har kraftfulde nye værktøjer, der effektivt kan trykke på millioner af menneskers mange knapper.

Om forfatterne

Archon Fung, professor i medborgerskab og selvstyre, Harvard Kennedy School , Lawrence Lessig, professor i jura og ledelse, Harvard University

Denne artikel er genudgivet fra The Conversation under en Creative Commons-licens. Læs oprindelige artikel.


Redaktørens tilføjelse: AI's potentiale til at overtage valg og underminere demokratiet er en presserende bekymring, som kræver vores opmærksomhed. Som denne artikel har fremhævet, kan fremkomsten af ​​AI-drevne politiske kampagner som Clogger omforme valgresultater, med maskiner, der påvirker vælgeradfærd i et hidtil uset omfang. Konsekvenserne af et sådant skifte ville være vidtrækkende, med valg bestemt ikke af folkets vilje, men af ​​effektiviteten af ​​AI-manipulation.

For at forhindre denne umyndiggørelse af borgerne og beskytte demokratiet skal vi træffe proaktive foranstaltninger. Robust beskyttelse af privatlivets fred og regler, der begrænser AI-systemers indflydelse ved valg, er afgørende. Ved at sikre gennemsigtighed, håndhæve klare ansvarsfraskrivelser for AI-genereret indhold og fremme ansvarlig brug af AI, kan vi opretholde integriteten af ​​demokratiske processer og beskytte de grundlæggende værdier i vores samfund.

Det er vigtigt, at vi forbliver på vagt og arbejder kollektivt for at navigere i de udfordringer, som AI udgør ved valg. Ved at gøre det kan vi bevare de demokratiske idealer, der understøtter vores samfund, og sikre en fremtid, hvor teknologiens magt stemmer overens med befolkningens interesser og forhåbninger.

bryde

Relaterede Bøger:

Om Tyranni: Tyve lektioner fra det tyvende århundrede

af Timothy Snyder

Denne bog giver erfaringer fra historien til at bevare og forsvare demokratiet, herunder betydningen af ​​institutioner, de enkelte borgeres rolle og farerne ved autoritarisme.

Klik for mere info eller for at bestille

Vores tid er nu: magt, formål og kampen for et retfærdigt Amerika

af Stacey Abrams

Forfatteren, en politiker og aktivist, deler sin vision for et mere rummeligt og retfærdigt demokrati og tilbyder praktiske strategier for politisk engagement og vælgermobilisering.

Klik for mere info eller for at bestille

Hvordan demokratier dør

af Steven Levitsky og Daniel Ziblatt

Denne bog undersøger advarselstegnene og årsagerne til demokratisk sammenbrud og trækker på casestudier fra hele verden for at give indsigt i, hvordan man beskytter demokratiet.

Klik for mere info eller for at bestille

Folket, nr.: En kort historie om anti-populisme

af Thomas Frank

Forfatteren giver en historie om populistiske bevægelser i USA og kritiserer den "anti-populistiske" ideologi, som han hævder har kvælt demokratiske reformer og fremskridt.

Klik for mere info eller for at bestille

Demokrati i én bog eller mindre: Hvordan det virker, hvorfor det ikke gør det, og hvorfor det er nemmere, end du tror

af David Litt

Denne bog giver et overblik over demokrati, herunder dets styrker og svagheder, og foreslår reformer for at gøre systemet mere lydhørt og ansvarligt.

Klik for mere info eller for at bestille