Vil du være venner med denne person? Sasun Bughdaryan

Det første skridt i at gennemføre online propagandaindsats og misinformationskampagner er næsten altid en falsk profil på sociale medier. Falske profiler for ikke-eksisterende mennesker ormer sig ind i de virkelige menneskers sociale netværk, hvor de kan sprede deres løgn. Men hverken sociale mediefirmaer eller teknologiske innovationer tilbyder pålidelige måder at identificere og fjerne sociale medieprofiler, der ikke repræsenterer egentlige autentiske mennesker.

Det lyder måske positivt, at Facebook over seks måneder i slutningen af ​​2017 og begyndelsen af ​​2018 opdagede og 1.3 milliarder falske konti suspenderet. Men en anslås 3 til 4 procent af kontiene der forbliver, eller ca. 66 millioner til 88 millioner profiler, er også falske, men er endnu ikke blevet opdaget. Ligeledes er estimater det 9 til 15 procent of Twitters 336 millioner konti er falske.

Falske profiler er ikke kun på Facebook og Twitter, og de er ikke kun målrettet mod folk i USA I december 2017 advarede tyske efterretningstjenestemænd om det Kinesiske agenter, der bruger falske LinkedIn-profiler målrettede mod mere end 10,000 tyske statsansatte. Og i midten af ​​august rapporterede det israelske militær det Hamas brugte falske profiler på Facebook, Instagram og WhatsApp for at lokke israelske soldater til at downloade ondsindet software.

Selvom virksomheder i sociale medier har gjort det begyndte at ansætte flere mennesker og bruge kunstig intelligens at opdage falske profiler, vil det ikke være nok til at gennemgå hver profil i tide for at stoppe deres misbrug. Som min forskning udforsker, problemet er faktisk ikke, at folk - og algoritmer - opretter falske profiler online. Hvad der virkelig er galt, er at andre mennesker falder for dem.

Min forskning i hvorfor så mange brugere har problemer med at få øje på falske profiler har identificeret nogle måder, folk kan blive bedre på at identificere falske konti - og fremhæver nogle steder teknologivirksomheder kan hjælpe.

Folk falder for falske profiler

For at forstå brugernes tankeprocesser oprettede jeg falske profiler på Facebook og sendte venneanmodninger til 141 studerende på et stort universitet. Hver af de falske profiler varierede på en eller anden måde - som at have mange eller få falske venner, eller om der var et profilbillede. Ideen var at finde ud af, om den ene eller den anden type profil var mest succesrig med at blive accepteret som en forbindelse af rigtige brugere - og derefter undersøge de skæve mennesker for at finde ud af, hvordan det skete.

Jeg fandt ud af, at kun 30 procent af de målrettede mennesker afviste anmodningen fra en falsk person. Da de blev undersøgt to uger senere, overvejede 52 procent af brugerne stadig at godkende anmodningen. Næsten en ud af fem - 18 procent - havde accepteret anmodningen med det samme. Af dem, der accepterede det, havde 15 procent besvaret forespørgsler fra den falske profil med personlige oplysninger såsom deres hjemmeadresse, deres studenteridentifikationsnummer og deres tilgængelighed for en deltidspraktik. Yderligere 40 procent af dem overvejede at afsløre private data.

Men hvorfor?

Da jeg interviewede de rigtige mennesker, som mine falske profiler havde målrettet mod, var det vigtigste, jeg fandt, at brugerne grundlæggende mener, at der er en person bag hver profil. Folk fortalte mig, at de havde troet, at profilen tilhørte en person, de kendte, eller muligvis en, en ven kendte. Ikke en person har nogensinde mistanke om, at profilen var en komplet fabrikation, udtrykkeligt oprettet for at bedrage dem. Fejlagtigt tænker hver venneanmodning er kommet fra en rigtig person, kan få folk til at acceptere venneanmodninger simpelthen for at være høflige og ikke såre andres følelser - selvom de ikke er sikre på, at de kender personen.

Derudover beslutter næsten alle brugere af sociale medier, om de vil acceptere en forbindelse baseret på en få nøgleelementer i ansøgerens profil - hovedsageligt hvor mange venner personen har, og hvor mange gensidige forbindelser der er. Jeg fandt ud af, at folk, der allerede har mange forbindelser, er endnu mindre kræsne og godkender næsten enhver anmodning, der kommer ind. Så selv en helt ny profil netter nogle ofre. Og med hver ny forbindelse vises den falske profil mere realistisk og har flere fælles venner med andre. Denne kaskade af ofre er, hvordan falske profiler erhverve legitimitet og blive udbredt.

Hvem vil faktisk være din online ven? niroworld / Shutterstock.com

Spredningen kan være hurtig, fordi de fleste sociale mediesider er designet til at holde brugerne tilbage, sædvanligvis kontrollere underretninger og reagere straks på forbindelsesanmodninger. Denne tendens er endnu mere udtalt på smartphones - hvilket kan forklare, hvorfor brugere, der får adgang til sociale medier på smartphones, er signifikant mere sandsynligt at acceptere falske profilanmodninger end stationære eller bærbare computerbrugere.

Illusioner af sikkerhed

Og brugere tror måske, at de er sikrere, end de faktisk er, forkert antager, at en platforms privatlivsindstillinger beskytter dem mod falske profiler. For eksempel fortalte mange brugere mig, at de mener, at Facebooks kontrol til at give forskellig adgang til venner i forhold til andre også beskytter dem mod falskmænd. Ligeledes fortalte mange LinkedIn-brugere mig også, at de mener, at fordi de kun udgiver professionel information, er de potentielle konsekvenser for at acceptere rogue forbindelser på den begrænsede.

Men det er en mangelfuld antagelse: Hackere kan bruge alle oplysninger hentet fra enhver platform. For eksempel hjælper det blot at vide på LinkedIn, at nogen arbejder i en eller anden virksomhed, dem med at udarbejde e-mails til personen eller andre i virksomheden. Derudover beskytter brugere, der skødesløst accepterer anmodninger, der antager, at deres privatlivskontrol beskytter dem, for andre forbindelser, der ikke har sat deres kontrol så højt.

Søger løsninger

Brug af sociale medier betyder sikkert at lære at få øje på falske profiler og bruge privatlivsindstillinger korrekt. Der er adskillige onlinekilder til rådgivning - inklusive platformers egne hjælpesider. Men for ofte overlades det til brugerne at informere sig selv, normalt efter at de allerede er blevet ofre for en fidus på sociale medier - som altid begynder med at acceptere en falsk anmodning.

Voksne bør lære - og undervise børn - hvordan man nøje undersøger anmodninger om forbindelse for at beskytte deres enheder, profiler og indlæg fra nysgerrige øjne og sig selv mod at blive skadeligt manipuleret. Det inkluderer gennemgang af forbindelsesanmodninger i løbet af distraktionsfrie perioder på dagen og brug af en computer snarere end en smartphone til at tjekke potentielle forbindelser. Det indebærer også at identificere, hvilke af deres egentlige venner, der har tendens til at acceptere næsten enhver venneanmodning fra nogen, hvilket gør dem til svage led i det sociale netværk.

Dette er steder, som sociale medieplatformvirksomheder kan hjælpe. De er allerede skaber mekanismer for at spore app-brug og sætte underretninger på pause, så folk undgår at blive oversvømmet eller konstant har brug for at reagere. Det er en god start - men de kunne gøre mere.

For eksempel kunne sociale mediesider vise brugerne indikatorer for, hvor mange af deres forbindelser der er inaktive i lange perioder, hvilket hjælper folk med at rense deres vennenetværk fra tid til anden. De kunne også vise, hvilke forbindelser der pludselig har erhvervet et stort antal venner, og hvilke der accepterer usædvanligt høje procentdele af venneanmodninger.

Sociale mediefirmaer skal gøre mere for at hjælpe brugerne med at identificere og rapportere potentielt falske profiler, udvide deres eget personale og automatiseret indsats. Sociale mediesider skal også kommunikere med hinanden. Mange falske profiler genbruges på tværs af forskellige sociale netværk. Men hvis Facebook blokerer en forfalskning, er Twitter muligvis ikke. Når et websted blokerer en profil, skal det sende nøgleoplysninger - såsom profilens navn og e-mail-adresse - til andre platforme, så de også kan undersøge og potentielt blokere svindel der.

Om forfatteren

Arun Vishwanath,, Universitet i Buffalo, State University of New York

Denne artikel er genudgivet fra The Conversation under en Creative Commons-licens. Læs oprindelige artikel.

Relaterede bøger

at InnerSelf Market og Amazon