Hvordan AI nu kan lære at manipulere menneskelig adfærd

et ansigt, der består af bits og stykker af data
Shutterstock

Kunstig intelligens (AI) lærer mere om, hvordan man arbejder med (og med) mennesker. EN nylig undersøgelse har vist, hvordan AI kan lære at identificere sårbarheder i menneskelige vaner og adfærd og bruge dem til at påvirke menneskelig beslutningstagning.

Det kan synes klicheret at sige, at AI transformerer alle aspekter af den måde, vi lever og arbejder på, men det er sandt. Forskellige former for AI arbejder på så forskellige områder som vaccineudvikling, miljøledelse og kontoradministration. Og mens AI ikke besidder menneskelig intelligens og følelser, er dens evner stærke og udvikler sig hurtigt.

Der er ingen grund til at bekymre sig om en maskinovertagelse endnu, men denne nylige opdagelse fremhæver kraften i AI og understreger behovet for ordentlig styring for at forhindre misbrug.

Hvordan AI kan lære at påvirke menneskelig adfærd

Et team af forskere ved CSIRO's data61, data og digital arm fra Australiens nationale videnskabsagentur, udtænkt en systematisk metode til at finde og udnytte sårbarheder på måder, folk træffer valg ved hjælp af en slags AI-system kaldet et tilbagevendende neuralt netværk og dyb forstærkning-læring. For at teste deres model udførte de tre eksperimenter, hvor menneskelige deltagere spillede spil mod en computer.

Det første eksperiment involverede deltagere i at klikke på røde eller blå farvede kasser for at vinde en falsk valuta, hvor AI lærte deltagerens valgmønstre og vejledte dem mod et specifikt valg. AI var vellykket omkring 70% af tiden.

I det andet eksperiment blev deltagerne forpligtet til at se en skærm og trykke på en knap, når de får vist et bestemt symbol (såsom en orange trekant) og ikke trykke på den, når de får vist en anden (sig en blå cirkel). Her satte AI sig for at arrangere rækkefølgen af ​​symboler, så deltagerne lavede flere fejl og opnåede en stigning på næsten 25%.

Det tredje eksperiment bestod af flere runder, hvor en deltager foregav at være en investor, der gav penge til en kurator (AI). AI vil derefter returnere et beløb til deltageren, som derefter beslutter, hvor meget de skal investere i næste runde. Dette spil blev spillet i to forskellige tilstande: i den ene var AI ude for at maksimere, hvor mange penge det endte med, og i den anden sigtede AI mod en retfærdig fordeling af penge mellem sig selv og den menneskelige investor. AI var meget succesrig i hver tilstand.

I hvert eksperiment lærte maskinen af ​​deltagernes svar og identificerede og målrettede sårbarheder i folks beslutningstagning. Slutresultatet var, at maskinen lærte at styre deltagerne mod bestemte handlinger.

I eksperimenter, Indersiden af ​​en mands hoved ligner diagrammet af et computer bundkort.n AI-system lærte med succes at påvirke menneskelige beslutninger. Shutterstock

Hvad forskningen betyder for fremtiden for AI

Disse fund er stadig ret abstrakte og involverede begrænsede og urealistiske situationer. Mere forskning er nødvendig for at bestemme, hvordan denne tilgang kan omsættes og bruges til gavn for samfundet.


 Få det nyeste via e-mail

Ugeblad Daglig inspiration

Men forskningen fremmer vores forståelse ikke kun af, hvad AI kan gøre, men også af, hvordan folk træffer valg. Det viser, at maskiner kan lære at styre valg af mennesker gennem deres interaktion med os.

Forskningen har et enormt udvalg af mulige anvendelser, lige fra forbedring af adfærdsvidenskab og offentlig politik til forbedring af social velfærd, forståelse og indflydelse på, hvordan folk vedtager sunde spisevaner eller vedvarende energi. AI og maskinindlæring kunne bruges til at genkende folks sårbarheder i bestemte situationer og hjælpe dem med at styre væk fra dårlige valg.

Metoden kan også bruges til at forsvare sig mod indflydelsesangreb. Maskiner kunne læres at advare os, når vi f.eks. Bliver påvirket online, og hjælpe os med at forme en adfærd for at skjule vores sårbarhed (for eksempel ved ikke at klikke på nogle sider eller klikke på andre for at lægge et falsk spor).

Hvad er det næste?

Som enhver teknologi kan AI bruges til godt eller dårligt, og korrekt styring er afgørende for at sikre, at den implementeres på en ansvarlig måde. Sidste år udviklede CSIRO en AI-etisk ramme for den australske regering som et tidligt skridt på denne rejse.

AI og maskinindlæring er typisk meget sultne efter data, hvilket betyder, at det er afgørende at sikre, at vi har effektive systemer til datastyring og -adgang. Implementering af passende samtykke processer og beskyttelse af privatlivets fred, når dataindsamling er afgørende.

Organisationer, der bruger og udvikler AI, skal sikre, at de ved, hvad disse teknologier kan og ikke kan, og være opmærksomme på potentielle risici såvel som fordele.

Om forfatteren

Jon Whittle, direktør, Data 61

Denne artikel er genudgivet fra The Conversation under en Creative Commons-licens. Læs oprindelige artikel.

Du vil måske også kunne lide

følg InnerSelf på

facebook ikontwitter-ikonyoutube-ikoninstagram ikonpintrest ikonrss ikon

 Få det nyeste via e-mail

Ugeblad Daglig inspiration

TILGÆNGELIGE SPROG

enafarzh-CNzh-TWdanltlfifrdeeliwhihuiditjakomsnofaplptroruesswsvthtrukurvi

MEST LÆS

mindfulness og dans mental sundhed 4 27
Hvordan Mindfulness og dans kan forbedre mental sundhed
by Adrianna Mendrek, Bishop's University
I årtier blev den somatosensoriske cortex anset for kun at være ansvarlig for behandling af sensoriske...
social stress og aldring 6 17
Hvordan social stress kan fremskynde immunsystemets aldring
by Eric Klopack, University of Southern California
Efterhånden som mennesker bliver ældre, begynder deres immunsystem naturligt at falde. Denne ældning af immunsystemet,...
oplader ude af stand 9 19
Ny USB-C-opladerregel viser, hvordan EU-regulatorer træffer beslutninger for verden
by Renaud Foucart, Lancaster University
Har du nogensinde lånt en vens oplader kun for at finde ud af, at den ikke er kompatibel med din telefon? Eller…
fødevarer sundere, når de tilberedes 6 19
9 grøntsager, der er sundere, når de koges
by Laura Brown, Teesside University
Ikke al mad er mere nærende, når den spises rå. Nogle grøntsager er faktisk mere...
intermetten faste 6 17
Er intermitterende faste faktisk godt for vægttab?
by David Clayton, Nottingham Trent University
Hvis du er en person, der har tænkt på at tabe dig eller har ønsket at blive sundere i de sidste par...
mand. kvinde og barn på stranden
Er dette dagen? Fars dag-omlægning
by Will Wilkinson
Det er fars dag. Hvad er den symbolske betydning? Kunne der ske noget livsændrende i dag i din...
problemer med at betale regninger og mental sundhed 6 19
Besvær med at betale regninger kan tage hårdt på fædres mentale helbred
by Joyce Y. Lee, Ohio State University
Tidligere fattigdomsforskning er primært blevet udført med mødre, med et overvejende fokus på lav...
hvad med vegansk ost 4 27
Hvad du bør vide om vegansk ost
by Richard Hoffman, University of Hertfordshire
Heldigvis, takket være veganismens stigende popularitet, er fødevareproducenter begyndt...

Nye holdninger - nye muligheder

InnerSelf.comClimateImpactNews.com | InnerPower.net
MightyNatural.com | WholisticPolitics.com | InnerSelf Marked
Copyright © 1985 - 2021 InnerSelf-publikationer. Alle rettigheder forbeholdes.