Fremtidige historikere kan meget vel betragte 2023 som et vartegn i fremkomsten af kunstig intelligens (AI). Men om den fremtid vil vise sig utopisk, apokalyptisk or et sted midt imellem er nogens gæt.
I februar satte ChatGPT rekorden som den hurtigste app at nå 100 millioner brugere. Det blev efterfulgt af lignende "storsprogede" AI-modeller fra Google, Amazon, Meta og andre store teknologivirksomheder, som tilsammen ser ud til at transformere uddannelse, sundhedspleje og mange andre videntunge områder.
Imidlertid blev AI's potentiale for skade understreget i maj af en ildevarslende udtalelse underskrevet af førende forskere:
At mindske risikoen for udryddelse fra AI bør være en global prioritet sammen med andre samfundsmæssige risici såsom pandemier og atomkrig.
I november, som svar på den voksende bekymring over AI-risiko, lovede 27 nationer (inklusive Storbritannien, USA, Indien, Kina og EU) samarbejde ved et indledende AI-sikkerhedstopmøde i Bletchley Park i England for at sikre sikker udvikling af AI for gavn for alle.
For at opnå dette fokuserer forskerne på AI justering – det vil sige, hvordan man sikrer sig, at AI-modeller stemmer overens med menneskelige værdier, præferencer og mål. Men der er et problem - AI's såkaldte "mørk hemmelighed”: store modeller er så komplekse, at de er som en sort boks, umulige for nogen fuldt ud at forstå.
AI's black box-problem
Selvom gennemsigtigheden og forklarligheden af AI-systemer er vigtige forskningsmål, synes sådanne bestræbelser usandsynligt at holde trit med det hektiske innovationstempo.
Den sorte boks-metafor forklarer, hvorfor folks overbevisninger om AI er overalt på kortet. Forudsigelser spænder fra utopi til udryddelse, og mange tror endda, at en kunstig generel intelligens (AGI) snart vil opnå sansning.
Men denne usikkerhed forstærker problemet. AI-tilpasning bør være en tovejs vej: Vi skal ikke kun sikre, at AI-modeller er i overensstemmelse med menneskelige intentioner, men også at vores overbevisninger om AI er nøjagtige.
Dette skyldes, at vi er bemærkelsesværdigt dygtige til at skabe fremtider, der stemmer overens med disse overbevisninger, selvom vi ikke er klar over dem.
Såkaldt “forventningseffekter”, eller selvopfyldende profetier, er velkendte i psykologien. Og forskning har vist, at manipulation af brugernes overbevisninger ikke kun påvirker hvordan de interagere med AI, men hvordan AI tilpasser sig brugeren.
Med andre ord, hvordan vores overbevisninger (bevidst eller ubevidst) påvirker AI, kan potentielt øge sandsynligheden for ethvert udfald, inklusive katastrofale.
AI, beregning, logik og aritmetik
Vi er nødt til at sondere dybere for at forstå grundlaget for kunstig intelligens – ligesom Alice i Eventyrland, gå ned i kaninhullet og se, hvor det fører os hen.
For det første, hvad er AI? Det kører på computere, og det samme er automatiseret beregning. Fra sin oprindelse som "perceptron” – en kunstig neuron defineret matematisk i 1943 af neurofysiolog Warren McCulloch og logiker Walter Pitts – AI er blevet flettet sammen med kognitiv videnskab, neurovidenskab og datalogi.
Denne konvergens af sind, hjerner , maskiner har ført til den udbredte tro på, at fordi AI er beregning ved maskine, så må naturlig intelligens (sindet) være beregning af hjernen.
Men hvad er beregning? I slutningen af det 19. århundrede, matematikere Richard Dedekind , Giuseppe Peano foreslået et sæt aksiomer, som defineret aritmetik i form af logik, og inspirerede forsøg på at jorde al matematik på en sikker formelt grundlag.
Selvom logikeren Kurt Godel senere bevist dette mål var uopnåelige, hans arbejde var udgangspunktet for matematiker (og kodeknuser) Alan Turing. hans "Turing maskine”, en abstrakt enhed i stand til universel beregning, er grundlaget for datalogi.
Dyb struktur af perception
Så beregning er baseret på matematiske ideer, der sporer tilbage til bestræbelser på at definere aritmetik i logik. Men vores viden om aritmetik eksisterer før logikken. Hvis vi vil forstå grundlaget for AI, er vi nødt til at gå videre og spørge, hvor selve regnestykket kommer fra.
Mine kolleger og jeg har for nylig vist, at aritmetik er baseret på "dyb struktur” af opfattelsen. Denne struktur er som farvede briller, der former vores opfattelse på særlige måder, så vores oplevelse af verden er ordnet og overskuelig.
Aritmetik består af et sæt elementer (tal) og operationer (addition, multiplikation), der kombinerer par af elementer for at give et andet element. Vi spurgte: af alle muligheder, hvorfor er tal elementerne, og addition og multiplikation operationerne?
Vi viste forbi matematisk bevis at når perceptionens dybe struktur blev antaget at begrænse mulighederne, var aritmetikken resultatet. Med andre ord, når vores sind betragter den abstrakte verden gennem de samme "farvede briller", som former vores oplevelse af den fysiske verden, "ser" det tal og aritmetik.
Fordi aritmetik er grundlaget for matematik, er implikationen, at matematik er en afspejling af sindet - et udtryk i symboler for dets grundlæggende natur og kreativitet.
Selvom opfattelsens dybe struktur deles med andre dyr og derfor er et produkt af evolutionen, er det kun mennesker, der har opfundet matematikken. Det er vores mest intime skabelse – og ved at muliggøre udviklingen af AI, måske vores mest konsekvens.
En kopernikansk sindets revolution
Vores beretning om aritmetikkens oprindelse er i overensstemmelse med synspunkter fra 18-tallets filosof Immanuel Kant. Ifølge ham er vores viden om verden struktureret af "rene intuitioner" af rum og tid, der eksisterer forud for sanseoplevelsen - analogt med de farvede briller, vi aldrig kan fjerne.
Kant hævdede sin filosofi var en "kopernikansk sindets revolution". På samme måde som gamle astronomer troede, at Solen kredsede om Jorden, fordi de var uvidende om Jordens bevægelse, hævdede Kant, filosoffer, der troede, at al viden stammer fra sanseoplevelse (John Locke og David Hume, for eksempel) overså, hvordan sindet former opfattelsen.
Selvom Kants synspunkter blev formet af hans samtids naturvidenskab, har de bevist indflydelsesrig i nutidig psykologi.
Erkendelsen af, at aritmetik er en naturlig konsekvens af vores opfattelse, og dermed biologisk baseret, antyder et lignende kantiansk skift i vores forståelse af beregning.
Beregning er ikke "udenfor" eller adskilt fra os i et abstrakt område af matematisk sandhed, men iboende i vores sinds natur. Sindet er mere end beregning; hjernen er ikke en computer. Tværtimod er beregning - grundlaget for AI - ligesom matematik et symbolsk udtryk for sindets natur og kreativitet.
Promethean brand
Hvad er implikationerne for AI? For det første er AI ikke et sind og vil aldrig blive sansende. Tanken om, at vi kan transcendere vores biologiske natur og opnå udødelighed ved at uploade vores sind til skyen, er kun fantasy.
Men hvis de sindsprincipper, som AI er baseret på, deles af hele menneskeheden (og sandsynligvis også andre levende væsener), kan det være muligt at overskride begrænsningerne i vores individuelle sind.
Fordi beregning er universel, er vi frie til at simulere og skabe ethvert resultat, vi vælger i vores stadig mere forbundne virtuelle og fysiske verdener. På denne måde er AI virkelig vores Promethean brand, en gave til menneskeheden stjålet fra guderne som i græsk mytologi.
Som en global civilisation står vi sandsynligvis ved et vendepunkt. AI vil ikke blive sansende og beslutte sig for det dræbe os alle. Men vi er meget i stand til at "apokalypse" os selv med det - forventning kan skabe virkelighed.
Bestræbelser på at sikre AI-tilpasning, sikkerhed og sikkerhed er af vital betydning, men er måske ikke nok, hvis vi mangler bevidsthed og kollektiv visdom. Ligesom Alice er vi nødt til at vågne op fra drømmen og genkende virkeligheden og kraften i vores sind.
Randolph Grace, Professor i psykologi, University of Canterbury
Denne artikel er genudgivet fra The Conversation under en Creative Commons-licens. Læs oprindelige artikel.
