Hvordan kunstig intelligens er en totalitær drøm Shutterstock.

Individualistiske vestlige samfund bygger på ideen om, at ingen kender vores tanker, ønsker eller glæder bedre end vi gør. Og så sætter vi os selv snarere end regeringen for vores liv. Vi er tilbøjelige til at være enige med filosofen Immanuel Kants påstand at ingen har ret til at tvinge deres idé om det gode liv til os.

Kunstig intelligens (AI) vil ændre dette. Det vil kende os bedre, end vi kender os selv. En regering bevæbnet med AI kunne hævde at vide, hvad dens folk virkelig ønsker, og hvad der virkelig vil gøre dem lykkelige. I bedste fald vil den bruge dette til at retfærdiggøre paternalisme, i værste fald totalitarisme.

Hvert helvede starter med et løfte om himlen. AI-ledet totalitarisme vil ikke være anderledes. Frihed bliver lydighed over for staten. Kun de irrationelle, ondskabsfulde eller subversive kunne ønske at vælge deres egen vej.

For at forhindre en sådan dystopi må vi ikke lade andre vide mere om os selv, end vi gør. Vi kan ikke tillade et selvkendskab.

Den alsidige AI

I 2019 hævdede milliardærinvestoren Peter Thiel, at AI var “bogstaveligt talt kommunistisk”. Han påpegede, at AI tillader en centraliserende magt til at overvåge borgerne og vide mere om dem, end de ved om sig selv. Kina, bemærkede Thiel, har ivrigt omfavnet AI.


indre selv abonnere grafik


Vi kender allerede AIs potentiale til støtte totalitarisme ved at levere et Orwellsk system til overvågning og kontrol. Men AI giver også totalitærer et filosofisk våben. Så længe vi kendte os selv bedre end regeringen, kunne liberalismen holde håbefulde totalitære i skak.

Men AI har ændret spillet. Store teknologivirksomheder indsamler store mængder data om vores adfærd. Maskinindlæringsalgoritmer bruger disse data til ikke kun at beregne, hvad vi vil gøre, men hvem vi er.

Dag, AI kan forudsige hvilke film vi kan lide, hvilke nyheder vi vil læse, og hvem vi vil ven med på Facebook. Det kan forudsige, om par bliver sammen og hvis vi vil selvmordsforsøg. Fra vores Facebook-likes, AI kan forudsige vores religiøse og politiske synspunkter, personlighed, intelligens, stofbrug og lykke.

Nøjagtigheden af ​​AI's forudsigelser forbedres kun. I en ikke alt for fjern fremtid, som forfatteren Yuval Noah Harari har foreslået, kan AI muligvis fortælle os, hvem vi er, før vi selv ved det.

Denne udvikling har seismiske politiske implikationer. Hvis regeringer kan kende os bedre, end vi kan, åbner en ny begrundelse for at gribe ind i vores liv. De vil tyranne os i vores eget bedste.

Frihed gennem tyranni

Filosofen Isaiah Berlin forudså dette i 1958. Han identificerede to typer frihed. En type, advarede han, ville føre til tyranni.

Negativ frihed er "frihed fra". Det er fri for indblanding fra andre mennesker eller regeringer i dine anliggender. Negativ frihed er, at ingen andre er i stand til at begrænse dig, så længe du ikke krænker andres rettigheder.

I modsætning hertil er positiv frihed "frihed til". Det er friheden til at være herre over dig selv, frihed til at opfylde dine sande ønsker, frihed til at leve et rationelt liv. Hvem ville ikke have det her?

Men hvad hvis en anden siger, at du ikke handler i din "sande interesse", selvom de ved, hvordan du kunne. Hvis du ikke lytter, kan de måske tvinge dig til at være fri - tvinger dig til dit ”eget bedste”. Dette er en af ​​de farligste ideer, der nogensinde er udtænkt. Det dræbte titusinder af mennesker i Stalins Sovjetunionen , Maos Kina.

Den russiske kommunistiske leder, Lenin, siges at have sagt, at kapitalisterne ville sælge det reb, han ville hænge dem med. Peter Thiel har argumenteret at i AI har kapitalistiske techfirmaer i Silicon Valley solgt kommunismen et værktøj, der truer med at underminere det demokratiske kapitalistiske samfund. AI er Lenins reb.

Kæmper for os selv

Vi kan kun forhindre en sådan dystopi, hvis ingen får lov til at kende os bedre, end vi kender os selv. Vi må aldrig sentimentalisere nogen, der søger en sådan magt over os som velmenende. Historisk har dette kun nogensinde endt med ulykke.

En måde at forhindre et selvkendskab på er at hæve vores privatlivsskærme. Thiel, der stemplede AI som kommunistisk, har hævdet, at ”krypto er libertarisk”. Kryptovalutaer kan være “muliggør privatliv”. Privatliv reducerer andres evne til at kende os og derefter bruge denne viden til manipulere os til deres egen fortjeneste.

Alligevel tilbyder vi os selv bedre gennem AI effektive fordele. Vi kan muligvis bruge det til bedre at forstå, hvad der vil gøre os lykkelige, sunde og velhavende. Det kan hjælpe guide vores karrierevalg. Mere generelt AI lover at skabe den økonomiske vækst at holder os fra hinandens hals.

Problemet er ikke AI, der forbedrer vores selvkendskab. Problemet er en magtforskelle i hvad der er kendt om os. Viden om os udelukkende i andres hænder er magt over os. Men viden om os i vores egne hænder er magt for os.

Enhver der behandler vores data at skabe viden om os skal være juridisk forpligtet til at give os den viden tilbage. Vi er nødt til at opdatere ideen om “intet om os uden os”Til AI-alderen.

Hvad AI fortæller os om os selv, er, at vi overvejer at bruge, ikke at andre drager fordel af misbrug. Der skal kun være en hånd på vores sjæls styrestang. Og det skal være vores.The Conversation

Om forfatteren

Simon McCarthy-Jones, lektor i klinisk psykologi og neuropsykologi, Trinity College Dublin

Denne artikel er genudgivet fra The Conversation under en Creative Commons-licens. Læs oprindelige artikel.

bryde

Relaterede Bøger:

Om Tyranni: Tyve lektioner fra det tyvende århundrede

af Timothy Snyder

Denne bog giver erfaringer fra historien til at bevare og forsvare demokratiet, herunder betydningen af ​​institutioner, de enkelte borgeres rolle og farerne ved autoritarisme.

Klik for mere info eller for at bestille

Vores tid er nu: magt, formål og kampen for et retfærdigt Amerika

af Stacey Abrams

Forfatteren, en politiker og aktivist, deler sin vision for et mere rummeligt og retfærdigt demokrati og tilbyder praktiske strategier for politisk engagement og vælgermobilisering.

Klik for mere info eller for at bestille

Hvordan demokratier dør

af Steven Levitsky og Daniel Ziblatt

Denne bog undersøger advarselstegnene og årsagerne til demokratisk sammenbrud og trækker på casestudier fra hele verden for at give indsigt i, hvordan man beskytter demokratiet.

Klik for mere info eller for at bestille

Folket, nr.: En kort historie om anti-populisme

af Thomas Frank

Forfatteren giver en historie om populistiske bevægelser i USA og kritiserer den "anti-populistiske" ideologi, som han hævder har kvælt demokratiske reformer og fremskridt.

Klik for mere info eller for at bestille

Demokrati i én bog eller mindre: Hvordan det virker, hvorfor det ikke gør det, og hvorfor det er nemmere, end du tror

af David Litt

Denne bog giver et overblik over demokrati, herunder dets styrker og svagheder, og foreslår reformer for at gøre systemet mere lydhørt og ansvarligt.

Klik for mere info eller for at bestille