En typisk social bot-konto. CC B

Sociale medieplatforme er blevet mere end blot værktøjer til kommunikation. De har udviklet sig til travle arenaer, hvor sandhed og løgn støder sammen. Blandt disse platforme skiller X sig ud som en fremtrædende kampplads. Det er et sted, hvor desinformationskampagner trives, foreviget af hære af AI-drevne bots programmeret til at påvirke den offentlige mening og manipulere fortællinger.

AI-drevne bots er automatiserede konti, der er designet til at efterligne menneskelig adfærd. Bots på sociale medier, chatplatforme og samtale-AI er en integreret del af det moderne liv. De er nødvendige for at få AI-applikationer til at køre effektivt, for eksempel.

Men nogle bots er lavet med ondsindede hensigter. Chokerende nok udgør bots en betydelig del af X's brugerbase. I 2017 blev det estimeret at der var cirka 23 millioner sociale bots, der tegner sig for 8.5 % af de samlede brugere. Mere end to tredjedele af tweets stammer fra disse automatiserede konti, som forstærker rækkevidden af ​​desinformation og gør vand i den offentlige diskurs.

Hvordan bots fungerer

Social indflydelse er nu en vare, der kan erhverves ved at købe bots. Virksomheder sælger falske følgere for kunstigt at øge populariteten af ​​konti. Disse følgere er tilgængelige til bemærkelsesværdigt lave priser, med mange berømtheder blandt køberne.

I løbet af vores research opdagede for eksempel kolleger og jeg en bot, der havde udsendt 100 tweets, der tilbød følgere til salg.

Brug af AI-metoder og en teoretisk tilgang kaldet aktør-netværk teori, dissekerede mine kolleger og jeg, hvordan ondsindede sociale bots manipulerer sociale medier og påvirker, hvad folk tænker, og hvordan de handler med alarmerende effektivitet. Vi kan se, om falske nyheder blev genereret af et menneske eller en bot med en nøjagtighedsgrad på 79.7 %. Det er afgørende at forstå, hvordan både mennesker og AI formidler desinformation for at forstå de måder, hvorpå mennesker udnytter AI til at sprede misinformation.

For at tage et eksempel undersøgte vi aktiviteten af ​​en konto ved navn "True Trumpers" på Twitter.

Kontoen blev etableret i august 2017, har ingen følgere og intet profilbillede, men havde på tidspunktet for undersøgelsen lagt 4,423 tweets ud. Disse omfattede en række helt opdigtede historier. Det er værd at bemærke, at denne bot stammer fra et østeuropæisk land.

En strøm af falske nyheder fra en bot-konto. Buzzfeed, CC BY

Forskning som denne påvirkede X til at begrænse aktiviteterne af sociale bots. Som reaktion på truslen om manipulation af sociale medier har X implementeret midlertidige læsegrænser for at begrænse dataskrabning og manipulation. Verificerede konti har været begrænset til at læse 6,000 indlæg om dagen, mens ubekræftede konti kan læse 600 om dagen. Dette er en ny opdatering, så vi ved endnu ikke, om den har været effektiv.

Kan vi beskytte os selv?

Det påhviler dog i sidste ende brugerne at udvise forsigtighed og skelne sandhed fra løgn, især i valgperioder. Ved kritisk at evaluere information og tjekke kilder kan brugere spille en rolle i at beskytte integriteten af ​​demokratiske processer mod angreb fra bots og desinformationskampagner på X. Hver bruger er faktisk en frontlinjeforkæmper for sandhed og demokrati. Årvågenhed, kritisk tænkning og en sund dosis skepsis er essentiel rustning.

Med sociale medier er det vigtigt for brugerne at forstå de strategier, der anvendes af ondsindede konti.

Ondsindede aktører bruger ofte netværk af bots til at forstærke falske fortællinger, manipulere tendenser og hurtigt formidle misinformation. Brugere bør udvise forsigtighed, når de støder på konti, der udviser mistænkelig adfærd, såsom overdreven opslag eller gentagne beskeder.

Desinformation udbredes også ofte gennem dedikerede falske nyhedswebsteder. Disse er designet til at efterligne troværdige nyhedskilder. Brugere rådes til at verificere ægtheden af ​​nyhedskilder ved at krydshenvise oplysninger med velrenommerede kilder og konsultere faktatjekorganisationer.

Selvbevidsthed er en anden form for beskyttelse, især fra social engineering taktik. Psykologisk manipulation anvendes ofte for at bedrage brugere til at tro på usandheder eller deltage i bestemte handlinger. Brugere bør opretholde årvågenhed og kritisk vurdere det indhold, de møder, især i perioder med øget følsomhed, såsom valg.

Ved at holde os informeret, engagere os i civil diskurs og slå til lyd for gennemsigtighed og ansvarlighed kan vi i fællesskab forme et digitalt økosystem, der fremmer tillid, gennemsigtighed og informeret beslutningstagning.

Nick Hajli, AI-strateg og professor i digital strategi, Loughborough University

Denne artikel er genudgivet fra The Conversation under en Creative Commons-licens. Læs oprindelige artikel.

Relaterede Bøger:

Om Tyranni: Tyve lektioner fra det tyvende århundrede

af Timothy Snyder

Denne bog giver erfaringer fra historien til at bevare og forsvare demokratiet, herunder betydningen af ​​institutioner, de enkelte borgeres rolle og farerne ved autoritarisme.

Klik for mere info eller for at bestille

Vores tid er nu: magt, formål og kampen for et retfærdigt Amerika

af Stacey Abrams

Forfatteren, en politiker og aktivist, deler sin vision for et mere rummeligt og retfærdigt demokrati og tilbyder praktiske strategier for politisk engagement og vælgermobilisering.

Klik for mere info eller for at bestille

Hvordan demokratier dør

af Steven Levitsky og Daniel Ziblatt

Denne bog undersøger advarselstegnene og årsagerne til demokratisk sammenbrud og trækker på casestudier fra hele verden for at give indsigt i, hvordan man beskytter demokratiet.

Klik for mere info eller for at bestille

Folket, nr.: En kort historie om anti-populisme

af Thomas Frank

Forfatteren giver en historie om populistiske bevægelser i USA og kritiserer den "anti-populistiske" ideologi, som han hævder har kvælt demokratiske reformer og fremskridt.

Klik for mere info eller for at bestille

Demokrati i én bog eller mindre: Hvordan det virker, hvorfor det ikke gør det, og hvorfor det er nemmere, end du tror

af David Litt

Denne bog giver et overblik over demokrati, herunder dets styrker og svagheder, og foreslår reformer for at gøre systemet mere lydhørt og ansvarligt.

Klik for mere info eller for at bestille