Hoe iemand, zelfs jij, een internettrol zou kunnen worden

Internettrollen zijn per definitie ontwrichtend, strijdlustig en vaak onaangenaam met hun aanstootgevende of provocerende online berichten die ontworpen zijn om te storen en te storen.

De algemene veronderstelling is dat mensen die trollen anders zijn dan de rest van ons, en ons de vrijheid geven om hen en hun gedrag te ontslaan. Maar een nieuwe studie suggereert iets anders - in de juiste omstandigheden kan iedereen een trol worden.

"We wilden begrijpen waarom trollen tegenwoordig zo veel voorkomt", zegt Justin Cheng, een computerwetenschapper aan Stanford University en hoofdauteur van het nieuwe artikel. "Hoewel de algemene kennis is dat trollen vooral sociopatische individuen zijn die af en toe in gesprekken voorkomen, zijn het eigenlijk alleen deze mensen die anderen trollen?"

Slechte stemmingen

Is trollend gedrag een aangeboren kenmerk of kunnen situationele factoren mensen beïnvloeden om zich als trollen te gedragen? Om dit te achterhalen, gebruikten onderzoekers een combinatie van experimenteren, data-analyse en machine-learning - en namen ze deel aan enkele eenvoudige factoren die ervoor zorgen dat de gemiddelde persoon vaker trol.

Naar aanleiding van eerder onderzoek naar antisociaal gedrag, besloten onderzoekers zich te concentreren op hoe stemming en context van invloed zijn op wat mensen op een discussieforum schrijven. Ze hebben een tweedelig experiment opgezet met 667-proefpersonen die zijn gerekruteerd via een crowdsourcingplatform.

In het eerste deel van het experiment kregen de deelnemers een test, die heel gemakkelijk of heel moeilijk was. Na het afleggen van de testen vulden alle proefpersonen een vragenlijst in die verschillende aspecten van hun humeur evalueerde, waaronder woede, vermoeidheid, depressie en spanning. Zoals verwacht, waren de mensen die de moeilijke test hadden voltooid in een slechtere stemming dan degenen die de gemakkelijke test hadden.


innerlijk abonneren grafisch


Alle deelnemers kregen vervolgens de opdracht om een ​​artikel te lezen en deel te nemen aan het commentaargedeelte. Ze moesten ten minste één opmerking achterlaten, maar konden meerdere opmerkingen en op-stemmingen en neerwaartse stemmingen achterlaten en konden reageren op andere opmerkingen. Alle deelnemers zagen hetzelfde artikel op hetzelfde platform, uitsluitend gemaakt voor het experiment, maar sommige deelnemers kregen een forum met drie troll-posts bovenaan het commentaargedeelte. Anderen zagen drie neutrale posten.

Twee onafhankelijke deskundigen hebben beoordeeld of de posten die door proefpersonen zijn achtergelaten, als trollen gekwalificeerd zijn, en worden in dit onderzoek in het algemeen gedefinieerd door een combinatie van richtlijnen voor het plaatsen van berichten van verschillende discussieforums. Persoonlijke aanvallen en vloeken waren bijvoorbeeld indicatief voor trolberichten.

Ongeveer 35 procent van de mensen die de eenvoudige test hebben voltooid en neutrale berichten hebben gezien, hebben zelf troll-opmerkingen geplaatst. Dat percentage is gestegen naar 50 procent als het onderwerp de zware test heeft gedaan of opmerkingen met trollen heeft gezien. Mensen die werden blootgesteld aan zowel de moeilijke test als de trollenposten troffen ongeveer 68 procent van de tijd.

Om deze experimentele inzichten te relateren aan de echte wereld, analyseerden de onderzoekers ook geanonimiseerde gegevens uit de commentaarsectie van CNN uit heel 2012. De gegevens bestonden uit 1,158,947-gebruikers, 200,576-discussies en 26,552,104-berichten en omvatten verbannen gebruikers en berichten die werden verwijderd door moderators. In dit deel van het onderzoek definieerde het team trolberichten als berichten die door leden van de community waren gemarkeerd voor misbruik.

'Spiraal van negativiteit'

Het was niet mogelijk om de stemming van de commentatoren direct te evalueren, maar onderzoekers keken naar de tijdstempel van berichten omdat uit eerder onderzoek is gebleken dat het tijdstip van de dag en de dag van de week overeenkomen met de stemming. Incidenten met neerwaartse stemmen en gemarkeerde berichten stonden op één lijn met gevestigde patronen van negatieve gemoedstoestanden. Dergelijke incidenten nemen de neiging om laat in de nacht en vroeg in de week toe te nemen, wat ook het geval is wanneer mensen het meest waarschijnlijk in een slecht humeur zijn.

De onderzoekers onderzochten de effecten van de stemming verder en vonden dat mensen eerder een gemarkeerde post produceerden als ze recentelijk waren gemarkeerd of als ze deelnamen aan een afzonderlijke discussie waarin alleen berichten van anderen waren opgenomen die gemarkeerd waren. Deze bevindingen zijn waar gebleven, ongeacht welk artikel aan de discussie was gekoppeld.

"Het is een spiraal van negativiteit", zegt Jure Leskovec, universitair hoofddocent computerwetenschappen en hoofdauteur van het artikel. "Slechts één persoon die chagrijnig wakker wordt, kan een vonk creëren en vanwege de context van de discussie en het stemmen kunnen deze vonken uitlopen in cascades van slecht gedrag. Slechte gesprekken leiden tot slechte gesprekken. Mensen die teleurgesteld raken, komen meer terug, geven meer commentaar en reageren nog erger. "

Gevlagde berichten voorspellen

Als laatste stap in hun onderzoek creëerde het team een ​​algoritme voor het leren van computers, dat moest voorspellen of het volgende bericht dat een auteur schreef zou worden gemarkeerd.

De informatie die aan het algoritme werd verstrekt, bevatte de tijdstempel van de laatste post van de auteur, of de laatste post was gemarkeerd, of de vorige post in de discussie was gemarkeerd, de algemene geschiedenis van de schrijver van gemarkeerde berichten en de geanonimiseerde gebruikers-ID van de auteur .

De bevindingen toonden aan dat de vlagstatus van de vorige post in de discussie de sterkste voorspeller was van de vraag of de volgende post zou worden gemarkeerd. Stemmingsgerelateerde functies, zoals timing en eerdere signalering van de commentator, waren veel minder voorspellend. De gebruikersgeschiedenis en gebruikers-ID waren, hoewel enigszins voorspellend, nog steeds aanzienlijk minder informatief dan de discussiecontext. Dit houdt in dat, hoewel sommige mensen altijd meer geneigd zijn om te trollen, de kans groter is dat de context waarin we berichten trolling tot gevolg heeft.

Schaduwverboden en afkoelperiodes?

Tussen de real-life, grootschalige data-analyse, het experiment en de voorspellende taak waren de bevindingen sterk en consistent. De onderzoekers suggereren dat gesprekscontext en stemming kunnen leiden tot trollen. Zij geloven dat dit de oprichting van betere online discussieruimten zou kunnen bevorderen.

"Begrijpen wat iemand daadwerkelijk bepaalt om zich antisociaal te gedragen, is essentieel als we de kwaliteit van online discussies willen verbeteren", zegt Cristian Danescu-Niculescu-Mizil, assistent-professor informatica aan de Cornell University en co-auteur van de paper. "Inzicht in de onderliggende causale mechanismen zou kunnen helpen bij het ontwerpen van systemen die een meer civiele onlinebespreking aanmoedigen en moderators zou kunnen helpen om trollen effectiever te beperken."

Interventies om trollen te voorkomen, kunnen discussieforums zijn die een afkoelperiode aanbevelen aan commentatoren die zojuist een bericht hebben gemarkeerd, systemen die moderators automatisch waarschuwen voor een bericht dat waarschijnlijk een trollenpost is of "schaduwverbod", - trollenposten verbergen van niet-trolgebruikers zonder de trol op de hoogte te stellen.

De onderzoekers zijn van mening dat dit soort studies slechts het begin is van werk dat al enige tijd nodig is, omdat internet nog lang niet het wereldwijde dorp is van hartelijk debat en discussie waarvan mensen dachten dat het ooit zou worden.

"Uiteindelijk suggereert dit onderzoek echt dat wij het zijn die deze onderbrekingen in de discussie veroorzaken", zegt coauteur Michael Bernstein, universitair docent computerwetenschappen aan Stanford. "Veel nieuwssites hebben hun reactiesystemen verwijderd omdat ze denken dat het in strijd is met het echte debat en de discussie. Ons eigen beste en slechtste zelf begrijpen is de sleutel om die terug te brengen. "

De papier werd gepubliceerd als onderdeel van de komende 2017-conferentie over computerondersteund coöperatief werk en sociaal computergebruik.

Bron: Stanford University

Verwante Boeken

at InnerSelf Market en Amazon