Donald Trump s kontroversiel fjernelse fra sociale medieplatforme har genoplivet debat omkring censur af information offentliggjort online. Men spørgsmålet om desinformation og manipulation på sociale medier går langt ud over én mands Twitter-konto. Og det er meget mere udbredt end hidtil antaget.
Siden 2016 har vores team på Oxford Internet Institute overvåget den hurtige globale udbredelse af kampagner for manipulation af sociale medier, som vi definerer som brugen af digitale værktøjer til at påvirke offentlig online-adfærd. I løbet af de sidste fire år har manipulation af sociale medier udviklet sig fra en nichebekymring til en global trussel mod demokrati og menneskerettigheder.
Vores seneste rapport fandt ud af, at organiserede kampagner for manipulation af sociale medier nu er almindelige over hele verden - identificeret i 81 lande i 2020, op fra 70 lande i 2019. Kortet nedenfor viser den globale fordeling af disse 81 lande, markeret med mørkeblåt.
I vores rapport fokuserer vi på brugen af "cybertropper", som er hold fra regeringen, militæret eller politiske partier, som er forpligtet til at manipulere den offentlige mening på sociale medier. Cybertropper gennemfører regelmæssigt, hvad vi kalder "beregningspropaganda"-kampagner.
Beregningspropaganda involverer brug af programmerede bots eller mennesker til at sprede målrettet vildledende information over internettet, ofte på en industriel skala.
For at gøre dette gør beregningsmæssige propagandister brug af et omfattende værktøjssæt af desinformationsværktøjer. Politiske bots forstærke hadefulde ytringer og skabe indtryk af trending politiske budskaber på Twitter og Facebook. Det ulovlig indsamling af data hjælper propagandister målmeddelelser hos specifikke, ofte sårbare individer og grupper. Troldehære, i mellemtiden, bliver regelmæssigt indsat for at undertrykke politisk aktivisme og pressefriheden.
I 2020 identificerede vi 62 lande, hvor statslige myndigheder selv bruger disse værktøjer til at forme den offentlige mening. I andre lande, der indgår i vores undersøgelse, bliver disse værktøjer brugt af private organisationer eller udenlandske aktører.
Desinformation til leje
På trods af Cambridge Analytica skandale Ved at afsløre, hvordan private virksomheder kan blande sig i demokratiske valg, fandt vores forskning også en alarmerende stigning i brugen af "disinformation-til-udlejning"-tjenester over hele verden. Ved at bruge regerings- og politisk partifinansiering er den private sektors cybertropper bliver i stigende grad ansat at sprede manipulerede beskeder online, eller at overdøve andre stemmer på sociale medier.
Vores forskning fandt statslige aktører, der arbejder med private computerpropagandavirksomheder i 48 lande i 2020, op fra 21 identificeret mellem 2017 og 2018, og kun ni sådanne tilfælde imellem 2016 og 2017. Siden 2007 næsten US millioner $ 60 (£49 mio.) er blevet brugt globalt på kontrakter med disse firmaer.
Derudover har vi afsløret relationer mellem lejede cybertropper og civilsamfundsgrupper, som ideologisk støtter en bestemt sag, såsom ungdomsgrupper og influentere på sociale medier. I USA for eksempel den pro-Trump ungdomsgruppe Vendepunkt-handling blev brugt til at sprede online desinformation og pro-Trump-fortællinger om både COVID-19 og brevstemmesedler.
For at nå deres politiske mål er smædekampagner mod en politisk modstander den mest almindelige strategi, der anvendes af cybertropper, og den er med i 94 % af alle de lande, vi undersøgte. I 90 % af landene observerede vi spredningen af pro-parti eller pro-regering propaganda. Undertrykkelse af deltagelse gennem trolling eller chikane var en funktion i 73 % af landene, mens cybertroppers beskeder i 48 % søgte at polarisere borgerne.
Moderering af sociale medier
Klart, debatter omkring censuren af Trump og hans tilhængere på sociale medier dækker kun én facet af industriens desinformationskrise. Efterhånden som flere lande investerer i kampagner, der søger aktivt at vildlede deres borgere, vil sociale mediefirmaer sandsynligvis stå over for øgede krav om moderation og regulering - og ikke kun fra Trump, hans tilhængere og relaterede konspirationsteorier som QAnon.
Donald Trump blev forbudt fra Twitter i kølvandet på Capitol-optøjerne. pcruciatti/Shutterstock
Allerede i år er udbredelsen af beregningsmæssige propagandakampagner gennem hele COVID-19-pandemi og i efter det amerikanske valg har fået mange sociale mediefirmaer til at begrænse misbruget af deres platforme ved at fjerne konti, som de mener administreres af cybertropper.
For eksempel viste vores forskning, at Facebook mellem januar 2019 og december 2020 fjernet 10,893 konti, 12,588 sider og 603 grupper fra sin platform. I samme periode Twitter fjernet 294,096 konti, og fortsætter med at fjerne konti, der er knyttet til yderst til højre.
På trods af disse kontofjernelser har vores forskning afsløret, at mellem januar 2019 og december 2020 blev næsten 10 millioner USD brugt af cybertropper på politiske reklamer. Og en afgørende del af historien er, at sociale medievirksomheder fortsat drager fordel af promoveringen af desinformation på deres platforme. Opfordringer til strammere regulering og fastere politi vil sandsynligvis følge Facebook og Twitter, indtil de virkelig får styr på deres platformes tendens til at hoste, sprede og formere desinformation.
Et stærkt, funktionelt demokrati er afhængig af offentlighedens adgang til information af høj kvalitet. Dette gør det muligt for borgerne at deltage i informerede overvejelser og søge konsensus. Det er klart, at sociale medieplatforme er blevet afgørende i lette denne informationsudveksling.
Disse virksomheder bør derfor øge deres indsats for at markere og fjerne desinformation sammen med alle cybertroppers konti, som bruges til at sprede skadeligt indhold online. Ellers vil den fortsatte eskalering i beregningsmæssige propagandakampagner, som vores forskning har afsløret, kun øge den politiske polarisering, mindske offentlighedens tillid til institutioner og yderligere underminere demokratiet på verdensplan.
Om forfatteren
Hannah Bailey, ph.d.-forsker i social datavidenskab, University of Oxford
Denne artikel er genudgivet fra The Conversation under en Creative Commons-licens. Læs oprindelige artikel.
