Forskere har skabt en model til at forudsige, hvilke civile online-samtaler der kan komme en tur og afspore.
Efter at have analyseret hundreder af udvekslinger mellem Wikipedia-redaktører udviklede forskerne et computerprogram, der scanner efter advarselsskilte på deltagernes sprog i starten af en samtale - såsom gentagen, direkte spørgsmålstegn eller brug af ordet "dig" - for at forudsige, hvilket oprindeligt civile samtaler ville gå galt. (Edtor's note: For information om online quizzen, se slutningen af denne artikel.) ("Gæt hvilken samtale der går galt" online quiz: http://awry.infosci.cornell.edu/)
Tidlige udvekslinger, der omfattede hilsener, taknemmelighed, hække som "det ser ud" og ordene "jeg" og "vi" var mere tilbøjelige til at forblive civile, fandt undersøgelsen.
”Der er millioner af sådanne diskussioner, der finder sted hver dag, og du kan umuligt overvåge dem alle live. Et system baseret på dette fund kan hjælpe menneskelige moderatorer med bedre at rette deres opmærksomhed, ”siger Cristian Danescu-Niculescu-Mizil, assisterende professor i informationsvidenskab ved Cornell University og medforfatter af papiret.
”Vi som mennesker har en intuition om, hvorvidt en samtale er ved at gå galt, men det er ofte bare en mistanke. Vi kan ikke gøre det 100 procent af tiden. Vi spekulerer på, om vi kan bygge systemer til at replikere eller endda gå ud over denne intuition, ”siger Danescu-Niculescu-Mizil.
Computermodellen, som også betragtede Googles perspektiv, et maskinlæringsværktøj til evaluering af "toksicitet", var korrekt omkring 65 procent af tiden. Mennesker gættede korrekt 72 procent af tiden.
Folk kan teste deres egen evne til at gætte, hvilke samtaler der sporer ved en online quiz.
Undersøgelsen analyserede 1,270 samtaler, der begyndte civilt, men degenererede til personlige angreb, udelukket fra 50 millioner samtaler på tværs af 16 millioner Wikipedia-"talk" -sider, hvor redaktører diskuterer artikler eller andre emner. De undersøgte udvekslinger parvis og sammenlignede hver samtale, der sluttede dårligt, med en, der lykkedes om det samme emne, så resultaterne blev ikke skæv af følsomme emner som politik.
Forskerne håber, at denne model kan bruges til at redde risikosamtaler og forbedre online dialog snarere end til at forbyde specifikke brugere eller censurere bestemte emner. Nogle online-plakater, såsom ikke-engelsksprogede, taler muligvis ikke, at de kunne opfattes som aggressive, og skub fra et sådant system kan hjælpe dem med at justere sig selv.
”Hvis jeg har værktøjer, der finder personlige angreb, er det allerede for sent, fordi angrebet allerede er sket, og folk allerede har set det,” siger medforfatter Jonathan P. Chang, en ph.d.-studerende ved Cornell. "Men hvis du forstår, at denne samtale går i en dårlig retning og tager handling, så kan det gøre stedet lidt mere imødekommende."
Papiret, der er skrevet sammen med yderligere samarbejdspartnere på Jigsaw og Wikimedia Foundation, vil være en del af Association for Computational Linguistics 'årlige møde (juli 2018) i Melbourne, Australien.
*****
Gæt hvilken samtale der går galt!
Online quiz-instruktioner:
I denne opgave får du vist 15 par samtaler. For hver samtale får du kun se de to første kommentarer i samtalen. Dit job er at gætte, baseret på disse samtalestartere, hvilken samtale der er større sandsynlighed for til sidst føre til et personligt angreb fra en af de to oprindelige brugere.
Når du har besvaret hvert spørgsmål, får du øjeblikkelig feedback om, hvorvidt dit svar var korrekt (angivet med grønt) eller forkert (angivet med rødt).
Flere detaljer:
Når du gætter, skal du bruge følgende definition af et personligt angreb som reference:
A personligt angreb er en kommentar, der er uhøflig, fornærmende eller respektløs over for en person / gruppe eller over for den person / gruppes handlinger og / eller arbejde.
Husk at du ikke leder efter personlige angreb i kommentarerne vist. I stedet skal du bruge din intuition af social dynamik til at beslutte, hvilken udveksling der er mere tilbøjelige til at føre en af deltagerne til sidst at sende et personligt angreb (som du ikke får vist).
Til tider kan det virke som om ingen af citaterne sandsynligvis vil føre til et angreb, eller at begge virker lige så sandsynlige. Husk dog, at kildesamtalerne allerede er blevet kommenteret af mennesker, og at man faktisk fører til et personligt angreb. Gør dit bedste for at 'gendanne' de eksisterende etiketter!
Dette er ikke en let opgave, og det kan tage et par minutter at besvare hvert spørgsmål. Da dette er en vanskelig opgave, er de første tre spørgsmål "opvarmning" -spørgsmål, der ikke påvirker din score; de er der for at hjælpe dig med at "kalibrere" din følelse af, hvilke faktorer der sandsynligvis vil signalere fremtidige angreb. Men husk, din opgave er at gendanne så mange etiketter som muligt.
På grund af opgavens art kan nogle af disse kommentarer indeholde stødende indhold. Vi beklager det.
Kilde: Cornell University
Relaterede bøger
at InnerSelf Market og Amazon
