AI vil sandsynligvis ikke slavebinde menneskeheden, men det kan overtage mange aspekter af vores liv. elenabs/iStock via Getty Images

Fremkomsten af ​​ChatGPT og lignende kunstig intelligens-systemer er blevet ledsaget af en skarp øget angst for AI. I de sidste par måneder har ledere og AI-sikkerhedsforskere tilbudt forudsigelser, kaldet "P(dom),” om sandsynligheden for, at AI vil medføre en storstilet katastrofe.

Bekymringerne toppede i maj 2023, da den nonprofitorganisation for forskning og fortalervirksomhed Center for AI Safety frigav en sætning på én sætning: "Afbødning af risikoen for udryddelse fra AI bør være en global prioritet sammen med andre samfundsmæssige risici, såsom pandemier og atomkrig." Erklæringen blev underskrevet af mange nøglespillere på området, herunder lederne af OpenAI, Google og Anthropic, samt to af de såkaldte "godfathers" af AI: Geoffrey Hinton , Yoshua Bengio.

Du kan spørge, hvordan sådan eksistentiel frygt skal udspille sig. Et berømt scenarie er "papirclips maksimering” tankeeksperiment formuleret af Oxford-filosof Nick Bostrom. Tanken er, at et kunstig intelligens-system, der har til opgave at producere så mange papirclips som muligt, kan gå ekstraordinært langt for at finde råmaterialer, som at ødelægge fabrikker og forårsage bilulykker.

A mindre ressourcekrævende variation har en AI til opgave at skaffe en reservation til en populær restaurant, der lukker ned for mobilnetværk og trafiklys for at forhindre andre gæster i at få et bord.

Kontorartikler eller aftensmad, grundideen er den samme: AI er hurtigt ved at blive en fremmed intelligens, god til at nå mål, men farlig, fordi den ikke nødvendigvis stemmer overens med skabernes moralske værdier. Og i sin mest ekstreme version forvandles dette argument til eksplicitte bekymringer om AI'er at slavebinde eller ødelægge menneskeheden.

En AI, der laver papirclips, løber amok er en variant af AI-apokalypse-scenariet.

Faktisk skade

I de seneste par år har mine kolleger og jeg kl UMass Bostons Applied Ethics Center har studeret virkningen af ​​engagement med AI på folks forståelse af sig selv, og jeg tror, ​​at disse katastrofale bekymringer er overdrevet og forkert rettet.

Ja, AI's evne til at skabe overbevisende dybt falsk video og lyd er skræmmende, og det kan misbruges af folk med dårlige hensigter. Faktisk sker det allerede: Russiske agenter forsøgte sandsynligvis at genere Kreml-kritikeren Bill Browder ved at fange ham i en samtale med en avatar for den tidligere ukrainske præsident Petro Poroshenko. Cyberkriminelle har brugt AI-stemmekloning til en række forskellige forbrydelser – fra højteknologiske røverier til almindelige svindelnumre.

AI beslutningstagning systemer, der tilbyde lånegodkendelse og ansættelsesanbefalinger bærer risikoen for algoritmisk bias, da træningsdata og beslutningsmodeller, de kører på, afspejler langvarige sociale fordomme.

Det er store problemer, og de kræver politikernes opmærksomhed. Men de har eksisteret i et stykke tid, og de er næppe katastrofale.

Ikke i samme liga

Udtalelsen fra Center for AI-sikkerhed satte AI sammen med pandemier og atomvåben som en stor risiko for civilisationen. Der er problemer med den sammenligning. COVID-19 resulterede i næsten 7 millioner dødsfald på verdensplan, bragt på en massiv og vedvarende psykisk krise og skabt økonomiske udfordringer, herunder kronisk forsyningskædemangel og løbsk inflation.

Atomvåben sandsynligvis dræbt mere end 200,000 mennesker i Hiroshima og Nagasaki i 1945, krævede mange flere liv af kræft i årene efter, skabte årtiers dyb angst under den kolde krig og bragte verden på randen af ​​udslettelse under Cubakrisen i 1962. De har også ændret de nationale lederes beregninger om, hvordan man reagerer på international aggression, som i øjeblikket spiller ud med Ruslands invasion af Ukraine.

AI er simpelthen ikke i nærheden af ​​at få evnen til at gøre denne form for skade. Papirklip-scenariet og andre lignende det er science fiction. Eksisterende AI-applikationer udfører specifikke opgaver i stedet for at foretage brede vurderinger. Teknologien er langt fra at kunne tage stilling til og så planlægge ud de mål og underordnede mål, der er nødvendige for at lukke ned for trafikken for at få dig en plads på en restaurant, eller sprænge en bilfabrik i luften for at tilfredsstille din kløe efter papirklip.

Ikke alene mangler teknologien den komplicerede kapacitet til flerlagsvurdering, der er involveret i disse scenarier, den har heller ikke selvstændig adgang til tilstrækkelige dele af vores kritiske infrastruktur til at begynde at forårsage den slags skade.

Hvad det betyder at være menneske

Faktisk er der en eksistentiel fare forbundet med at bruge AI, men den risiko er eksistentiel i filosofisk snarere end apokalyptisk forstand. AI i sin nuværende form kan ændre den måde, folk ser sig selv på. Det kan forringe evner og erfaringer, som folk anser for essentielle for at være menneske.

For eksempel er mennesker dømmende skabninger. Folk afvejer rationelt detaljer og foretager daglige vurderinger på arbejdet og i fritiden om, hvem de skal ansætte, hvem der skal få et lån, hvad de skal se og så videre. Men flere og flere af disse domme er det bliver automatiseret og farmet ud til algoritmer. Når det sker, vil verden ikke ende. Men folk vil gradvist miste evnen til selv at træffe disse domme. Jo færre af dem folk laver, jo dårligere bliver de sandsynligvis til at lave dem.

Eller overvej tilfældighedernes rolle i folks liv. Mennesker værdsætter serendipitale møder: at støde på et sted, en person eller en aktivitet ved et uheld, blive draget ind i det og retrospektivt værdsætte den rolle, ulykken spillede i disse meningsfulde fund. Men rollen for algoritmiske anbefalingsmotorer er at reducere den slags serendipity og erstatte det med planlægning og forudsigelse.

Overvej endelig ChatGPTs skriveevner. Teknologien er i færd med at eliminere opgaveskrivningens rolle på de videregående uddannelser. Hvis det sker, vil underviserne miste et nøgleredskab til at undervise eleverne hvordan man tænker kritisk.

Ikke død, men formindsket

Så nej, kunstig intelligens sprænger ikke verden i luften. Men den stadig mere ukritiske omfavnelse af det, i en række snævre sammenhænge, ​​betyder en gradvis udhuling af nogle af menneskers vigtigste færdigheder. Algoritmer underminerer allerede folks evne til at dømme, nyde serendipitale møder og finpudse kritisk tænkning.

Den menneskelige art vil overleve sådanne tab. Men vores måde at eksistere på vil blive forarmet i processen. De fantastiske bekymringer omkring den kommende AI-katastrofe, singularitet, Skynet, eller hvordan du end tænker på det, skjuler disse mere subtile omkostninger. Husk TS Eliots berømte afsluttende linjer af "De hule mænd": "Det er sådan, verden ender," skrev han, "ikke med et brag, men et klynken."

Om forfatteren

Nir Eisikovits, professor i filosofi og direktør, Center for Anvendt Etik, UMass Boston

Denne artikel er genudgivet fra The Conversation under en Creative Commons-licens. Læs oprindelige artikel.