Et eksempel på reje Jesus. Shutterstock AI Generator

Hvis du søger efter "reje Jesus" på Facebook, kan du støde på snesevis af billeder af kunstig intelligens (AI)-genererede krebsdyr, der i forskellige former er sammenkædet med et stereotypt billede af Jesus Kristus.

Nogle af disse hyperrealistiske billeder har fået mere end 20,000 likes og kommentarer. Så hvad er det egentlig, der foregår her?

Den "døde internetteori" har en forklaring: AI og bot-genereret indhold har overgået det menneskeskabte internet. Men hvor kom denne idé fra, og har den noget grundlag i virkeligheden?

Hvad er den døde internetteori?

Den døde internetteori hævder i det væsentlige, at aktivitet og indhold på internettet, inklusive konti på sociale medier, overvejende bliver skabt og automatiseret af kunstig intelligens-agenter.

Disse agenter kan hurtigt oprette opslag sammen med AI-genererede billeder designet til farmengagement (klik, likes, kommentarer) på platforme som Facebook, Instagram og TikTok. Hvad angår rejer Jesus, ser det ud til, at AI har lært, at det er den nuværende, seneste blanding af absurditet og religiøs ikonografi, der går viralt.

Men den døde internetteori går endnu længere. Mange af de konti, der engagerer sig med sådant indhold også synes at være styret af kunstig intelligens-agenter. Dette skaber en ond cirkel af kunstigt engagement, som ikke har nogen klar dagsorden og slet ikke længere involverer mennesker.

Harmløst engagement-landbrug eller sofistikeret propaganda?

Ved første øjekast kan motivationen for disse konti til at generere interesse virke indlysende – engagement på sociale medier fører til annonceindtægter. Hvis en person opretter en konto, der modtager et oppustet engagement, kan de tjene en del af annonceindtægterne fra sociale medieorganisationer såsom Meta.

Så stopper den døde internetteori ved harmløs engagement farming? Eller måske ligger der under overfladen et sofistikeret, velfinansieret forsøg på at støtte autokratiske regimer, angribe modstandere og sprede propaganda?

Selvom reje-Jesus-fænomenet kan virke harmløst (omend bizart), er der potentielt et længerevarende trick ved hånden.

Efterhånden som disse AI-drevne konti vokser i følgere (mange falske, nogle rigtige), legitimerer det høje antal følgere kontoen til rigtige brugere. Det betyder, at derude bliver der oprettet en hær af konti. Konti med høje følgerantal, som kunne implementeres af dem med det højeste bud.

Dette er yderst vigtigt, da sociale medier nu er den primære nyhedskilde for mange brugere rundt om i verden. I Australien, 46 % af de 18 til 24-årige nominerede sociale medier som deres vigtigste nyhedskilde sidste år. Dette er en stigning fra 28 % i 2022 og overtager traditionelle forretninger som radio og tv.

Bot-drevet desinformation

Allerede nu er der stærke beviser på, at sociale medier bliver manipuleret af disse oppustede bots for at påvirke den offentlige mening med desinformation – og det er sket i årevis.

I 2018 analyserede en undersøgelse 14 millioner tweets over en ti-måneders periode i 2016 og 2017. Den fandt, at bots på sociale medier var væsentligt involveret i at formidle artikler fra upålidelige kilder. Konti med et stort antal følgere legitimerede misinformation og desinformation, hvilket fik rigtige brugere til at tro, engagere og videredele bot-postet indhold.

Denne tilgang til manipulation af sociale medier har vist sig at forekomme efter masseskyderibegivenheder i USA. I 2019 fandt en undersøgelse bot-genererede indlæg på X (tidligere Twitter) bidrager stærkt til den offentlige diskussion, der tjener til at forstærke eller forvrænge potentielle fortællinger forbundet med ekstreme begivenheder.

På det seneste har adskillige storstilede, pro-russiske desinformationskampagner haft til formål underminere støtten til Ukraine og fremme pro-russisk stemning.

Afsløret af aktivister og journalister brugte den koordinerede indsats bots og AI til at skabe og sprede falsk information og nåede millioner af brugere af sociale medier.

Alene på X brugte kampagnen mere end 10,000 botkonti til hurtigt at sende titusindvis af beskeder med pro-Kremlin-indhold, der tilsyneladende tilskrives amerikanske og europæiske berømtheder støtte den igangværende krig mod Ukraine.

Denne indflydelsesskala er betydelig. Nogle rapporter har endda fundet ud af, at næsten halvdelen af ​​al internettrafik i 2022 var lavet af bots. Med de seneste fremskridt inden for generativ AI – såsom OpenAIs ChatGPT-modeller og Googles Gemini – vil kvaliteten af ​​falsk indhold kun blive bedre.

Sociale medieorganisationer søger at imødegå misbrug af deres platforme. Især har Elon Musk undersøgt, at X-brugere skal betale for medlemskab for at stoppe botfarme.

 

Sociale mediegiganter er i stand til at fjerne store mængder af registreret botaktivitet, hvis de vælger det. (Dårlige nyheder for vores venlige reje Jesus.)

Hold det døde internet i tankerne

Det er den døde internetteori ikke virkelig hævder, at de fleste af dine personlige interaktioner på internettet er falske.

Det er dog en interessant linse at se internettet igennem. At det ikke længere er for mennesker, af mennesker - det er den forstand, hvor det internet, vi kendte og elskede, er "dødt".

Friheden til at skabe og dele vores tanker på internettet og sociale medier er, hvad der gjorde det så stærkt. Det er naturligvis denne magt, som dårlige skuespillere søger at kontrollere.

Den døde internetteori er en påmindelse om at være skeptisk og navigere på sociale medier og andre hjemmesider med et kritisk sind.

Enhver interaktion, trend og især "overordnet stemning" kunne meget vel være syntetisk. Designet til lidt at ændre den måde, du opfatter verden på.

Jake Renzella, underviser, studieleder (datalogi), UNSW Sydney og Vlada Rozova, forskningsstipendiat i anvendt maskinlæring, University of Melbourne

Denne artikel er genudgivet fra The Conversation under en Creative Commons-licens. Læs oprindelige artikel.