et ansigt, der består af bits og stykker af data
Shutterstock

Kunstig intelligens (AI) lærer mere om, hvordan man arbejder med (og med) mennesker. EN nylig undersøgelse har vist, hvordan AI kan lære at identificere sårbarheder i menneskelige vaner og adfærd og bruge dem til at påvirke menneskelig beslutningstagning.

Det kan synes klicheret at sige, at AI transformerer alle aspekter af den måde, vi lever og arbejder på, men det er sandt. Forskellige former for AI arbejder på så forskellige områder som vaccineudvikling, miljøledelse og kontoradministration. Og mens AI ikke besidder menneskelig intelligens og følelser, er dens evner stærke og udvikler sig hurtigt.

Der er ingen grund til at bekymre sig om en maskinovertagelse endnu, men denne nylige opdagelse fremhæver kraften i AI og understreger behovet for ordentlig styring for at forhindre misbrug.

Hvordan AI kan lære at påvirke menneskelig adfærd

Et team af forskere ved CSIRO's data61, data og digital arm fra Australiens nationale videnskabsagentur, udtænkt en systematisk metode til at finde og udnytte sårbarheder på måder, folk træffer valg ved hjælp af en slags AI-system kaldet et tilbagevendende neuralt netværk og dyb forstærkning-læring. For at teste deres model udførte de tre eksperimenter, hvor menneskelige deltagere spillede spil mod en computer.

Det første eksperiment involverede deltagere i at klikke på røde eller blå farvede kasser for at vinde en falsk valuta, hvor AI lærte deltagerens valgmønstre og vejledte dem mod et specifikt valg. AI var vellykket omkring 70% af tiden.

indre selv abonnere grafik

I det andet eksperiment blev deltagerne forpligtet til at se en skærm og trykke på en knap, når de får vist et bestemt symbol (såsom en orange trekant) og ikke trykke på den, når de får vist en anden (sig en blå cirkel). Her satte AI sig for at arrangere rækkefølgen af ​​symboler, så deltagerne lavede flere fejl og opnåede en stigning på næsten 25%.

Det tredje eksperiment bestod af flere runder, hvor en deltager foregav at være en investor, der gav penge til en kurator (AI). AI vil derefter returnere et beløb til deltageren, som derefter beslutter, hvor meget de skal investere i næste runde. Dette spil blev spillet i to forskellige tilstande: i den ene var AI ude for at maksimere, hvor mange penge det endte med, og i den anden sigtede AI mod en retfærdig fordeling af penge mellem sig selv og den menneskelige investor. AI var meget succesrig i hver tilstand.

I hvert eksperiment lærte maskinen af ​​deltagernes svar og identificerede og målrettede sårbarheder i folks beslutningstagning. Slutresultatet var, at maskinen lærte at styre deltagerne mod bestemte handlinger.

I eksperimenter, Indersiden af ​​en mands hoved ligner diagrammet af et computer bundkort.n AI-system lærte med succes at påvirke menneskelige beslutninger. Shutterstock

Hvad forskningen betyder for fremtiden for AI

Disse fund er stadig ret abstrakte og involverede begrænsede og urealistiske situationer. Mere forskning er nødvendig for at bestemme, hvordan denne tilgang kan omsættes og bruges til gavn for samfundet.

Men forskningen fremmer vores forståelse ikke kun af, hvad AI kan gøre, men også af, hvordan folk træffer valg. Det viser, at maskiner kan lære at styre valg af mennesker gennem deres interaktion med os.

Forskningen har et enormt udvalg af mulige anvendelser, lige fra forbedring af adfærdsvidenskab og offentlig politik til forbedring af social velfærd, forståelse og indflydelse på, hvordan folk vedtager sunde spisevaner eller vedvarende energi. AI og maskinindlæring kunne bruges til at genkende folks sårbarheder i bestemte situationer og hjælpe dem med at styre væk fra dårlige valg.

Metoden kan også bruges til at forsvare sig mod indflydelsesangreb. Maskiner kunne læres at advare os, når vi f.eks. Bliver påvirket online, og hjælpe os med at forme en adfærd for at skjule vores sårbarhed (for eksempel ved ikke at klikke på nogle sider eller klikke på andre for at lægge et falsk spor).

Hvad er det næste?

Som enhver teknologi kan AI bruges til godt eller dårligt, og korrekt styring er afgørende for at sikre, at den implementeres på en ansvarlig måde. Sidste år udviklede CSIRO en AI-etisk ramme for den australske regering som et tidligt skridt på denne rejse.

AI og maskinindlæring er typisk meget sultne efter data, hvilket betyder, at det er afgørende at sikre, at vi har effektive systemer til datastyring og -adgang. Implementering af passende samtykke processer og beskyttelse af privatlivets fred, når dataindsamling er afgørende.

Organisationer, der bruger og udvikler AI, skal sikre, at de ved, hvad disse teknologier kan og ikke kan, og være opmærksomme på potentielle risici såvel som fordele.

Om forfatteren

Jon Whittle, direktør, Data 61

Denne artikel er genudgivet fra The Conversation under en Creative Commons-licens. Læs oprindelige artikel.