Onderzoekers hebben een model ontwikkeld om te voorspellen welke civiele onlinegesprekken een keerpunt kunnen nemen en ontsporen.
Na analyse van honderden uitwisselingen tussen redacteuren van Wikipedia, ontwikkelden de onderzoekers een computerprogramma dat in het begin van een gesprek naar waarschuwingssignalen in de taal van de deelnemers zoekt - zoals herhaald, direct ondervragen of gebruik van het woord "jij" - om te voorspellen welke aanvankelijk burgerlijke gesprekken zouden misgaan. (Opmerking van Edtor: voor informatie over de online quiz, zie het einde van dit artikel.) ("Raad eens welk gesprek verkeerd gaat" online quiz: http://awry.infosci.cornell.edu/)
Vroegtijdige uitwisselingen met groeten, uitingen van dankbaarheid, hagen zoals 'het lijkt erop', en de woorden 'ik' en 'wij' bleken eerder burgerlijk te blijven, zo bleek uit de studie.
"Er zijn miljoenen van dergelijke discussies die elke dag plaatsvinden, en je kunt ze onmogelijk allemaal live volgen. Een systeem gebaseerd op deze bevinding kan menselijke moderators helpen om hun aandacht beter te richten, "zegt Cristian Danescu-Niculescu-Mizil, assistent-professor informatica aan de Cornell University en co-auteur van de krant.
"Wij als mensen hebben een intuïtie of een gesprek op het punt staat om fout te gaan, maar het is vaak slechts een vermoeden. We kunnen het niet 100 procent van de tijd doen. We vragen ons af of we systemen kunnen bouwen die deze intuïtie kunnen nabootsen of zelfs overstijgen ", zegt Danescu-Niculescu-Mizil.
Het computermodel, dat ook het Perspectief van Google beschouwde, een hulpmiddel voor het leren van computers om 'toxiciteit' te evalueren, was rond 65 procent van de tijd correct. Mensen hebben 72 procent van de tijd correct geraden.
Mensen kunnen hun eigen vaardigheid testen om te raden welke gesprekken bij een online quiz zullen ontsporen.
De studie analyseerde 1,270-gesprekken die civiel begonnen maar degenereerden tot persoonlijke aanvallen, geruimd uit 50 miljoen gesprekken op 16 miljoen Wikipedia-talkpages, waar redacteurs artikelen of andere kwesties bespreken. Ze onderzochten uitwisselingen in tweetallen en vergeleken elk gesprek dat slecht eindigde met een gesprek dat in hetzelfde onderwerp slaagde, dus de resultaten waren niet scheefgetrokken door gevoelige onderwerpen zoals de politiek.
De onderzoekers hopen dat dit model kan worden gebruikt om risicogesprekken te redden en de online dialoog te verbeteren, in plaats van specifieke gebruikers te verbieden of bepaalde onderwerpen te censureren. Sommige online posters, zoals niet-Engelstalige Engelstaligen, realiseren zich mogelijk niet dat ze als agressief kunnen worden beschouwd, en duwtjes uit een dergelijk systeem kunnen hen helpen zich aan te passen.
"Als ik hulpmiddelen heb die persoonlijke aanvallen vinden, is het al te laat, omdat de aanval al is gebeurd en mensen het al hebben gezien", zegt coauteur Jonathan P. Chang, een promovendus bij Cornell. "Maar als je begrijpt dat dit gesprek in een slechte richting gaat en dan actie onderneemt, kan dat de plek misschien wat vriendelijker maken."
Het paper, geschreven met bijkomende medewerkers bij Jigsaw en de Wikimedia Foundation, zal deel uitmaken van de jaarlijkse vergadering van de Association for Computational Linguistics (juli 2018) in Melbourne, Australië.
*****
Raad eens welk gesprek misgaat!
Online quizinstructies:
In deze taak worden 15-paren van gesprekken weergegeven. Voor elk gesprek krijgt u alleen de eerste twee opmerkingen in het gesprek te zien. Jouw taak is om te raden, op basis van deze gespreksaanzet, welk gesprek waarschijnlijker is uiteindelijk leiden tot een persoonlijke aanval van een van de twee eerste gebruikers.
Na het beantwoorden van elke vraag krijgt u direct feedback over of uw antwoord correct was (aangegeven met groen) of onjuist (aangegeven met rood).
Meer informatie:
Bij het maken van uw gok, zou u de volgende definitie van een persoonlijke aanval als referentie moeten gebruiken:
A persoonlijke aanval is een opmerking die onbeschoft, beledigend of respectloos is jegens een persoon / groep of naar acties en / of werk van die persoon / groep.
Houd er rekening mee dat u niet op zoek bent naar persoonlijke aanvallen in de opmerkingen die dat zijn getoond. Integendeel, je zou je intuïtie van sociale dynamiek moeten gebruiken om te beslissen welke uitwisselingshandeling eerder een van de deelnemers zal leiden om uiteindelijk een persoonlijke aanval te plaatsen (die je niet wordt getoond).
Soms lijkt het erop dat geen van beide aanhalingstekens waarschijnlijk tot een aanval leidt of beide even waarschijnlijk lijken. Houd er echter rekening mee dat de brongesprekken al zijn geannoteerd door mensen en dat er inderdaad sprake is van een persoonlijke aanval. Doe je best om die bestaande labels te 'herstellen'!
Dit is geen gemakkelijke taak en het kan een paar minuten duren om elke vraag te beantwoorden. Omdat dit een moeilijke taak is, zijn de eerste drie vragen 'opwarmvragen' die uw score niet beïnvloeden; ze zijn er om u te helpen uw gevoel te "kalibreren" voor welke factoren toekomstige aanvallen waarschijnlijk zullen signaleren. Maar onthoud, uw taak is om zoveel mogelijk labels te herstellen.
Vanwege de aard van de taak kunnen sommige van deze opmerkingen aanstootgevende inhoud bevatten. Het spijt ons dat.
Bron: Cornell University
Verwante Boeken
at InnerSelf Market en Amazon
