Wat Facebook ons ​​niet vertelt over zijn strijd tegen online misbruik

Wat Facebook ons ​​niet vertelt over zijn strijd tegen online misbruik
Shutterstock

Facebook heeft voor het eerst gegevens beschikbaar over de schaal van beledigende opmerkingen gepost op zijn site. Dit kan zijn gedaan onder de toenemende druk van organisaties voor sociale mediabedrijven om meer te zijn transparant over online misbruik, of om geloofwaardigheid te krijgen na de Gegevensschandaal bij Cambridge Analytica. Hoe dan ook, de cijfers zorgen niet voor plezierige lectuur.

In een periode van zes maanden van oktober 2017 tot maart 20178, 21m seksueel expliciete foto's, 3.5m grafisch gewelddadige berichten en 2.5m-vormen van haatdragende taal werden van de site verwijderd. Deze cijfers helpen om enkele opvallende punten te onthullen.

Zoals verwacht, geven de gegevens aan dat het probleem erger wordt. Van januari tot maart werd bijvoorbeeld geschat dat voor elke 10,000-berichten online, tussen 22 en 27 grafisch geweld bevatte, in de voorgaande drie maanden van 16 naar 19. Dit geeft een duidelijk beeld van het feit dat in het VK de vervolgingen voor online misbruik zijn afgenomen, zoals blijkt uit de onderstaande grafiek.

Maar wat Facebook ons ​​niet heeft verteld, is net zo belangrijk.

Het sociale netwerk is geweest onder toenemende druk om misbruik op zijn site te bestrijden, in het bijzonder de verwijdering van terroristische propaganda na gebeurtenissen zoals de 2017 Westminster-aanval en de bombardementen op de Arena van Manchester. Hier is het bedrijf proactief geweest. Tussen januari en maart 2018 verwijderde Facebook 1.9m-berichten die terroristische propaganda aanmoedigden, een toename van 800,000-commentaren in vergelijking met de voorgaande drie maanden. Een totaal van 99.5% van deze berichten bevond zich met behulp van geavanceerde technologie.

Op het eerste gezicht lijkt het erop dat Facebook met succes software heeft ontwikkeld die deze inhoud van zijn server kan verwijderen. Maar Facebook heeft geen cijfers vrijgegeven die laten zien hoe veel voorkomende terrorist propaganda staat op zijn site. Dus we weten echt niet hoe succesvol de software in dit opzicht is.

Gewelddadige berichten verwijderen

Facebook heeft ook technologie gebruikt om het verwijderen van grafisch geweld van zijn site te vergemakkelijken. Tussen de twee periodes van drie maanden was er een toename van 183% van het aantal verwijderde posts dat grafisch gewelddadig was gemarkeerd. Een totaal van 86% van deze opmerkingen werd gemarkeerd door een computersysteem.


Haal het laatste uit InnerSelf


Maar we weten ook dat de cijfers van Facebook ook laten zien dat tot 27 uit elke 10,000-opmerkingen die de detectietechnologie passeerden, sprake was van grafisch geweld. Dat klinkt niet als veel, maar het is de moeite waard om het enorme aantal totale reacties op de site te beschouwen door zijn meer dan 2 miljard actieve gebruikers. Eén schatting suggereert dat 510,000-reacties elke minuut worden gepost. Als dat klopt, zou dat betekenen dat 1,982,880-gewelddadige reacties elke 24-uren worden gepost.

Om de storingen in de detectiesoftware goed te maken, heeft Facebook, net als andere sociale netwerken, jarenlang vertrouwd op zelfregulering, waarbij gebruikers worden aangemoedigd om opmerkingen rapporteren zij geloven dat dit niet op de site zou moeten staan. Tussen januari en maart 2018 verwijderde Facebook bijvoorbeeld 2.5m-opmerkingen die werden beschouwd als haatzaaiende spraak, maar alleen 950,000 (38%) van deze berichten was gemarkeerd door het systeem. De andere 62% werden gerapporteerd door gebruikers. Dit toont aan dat de technologie van Facebook niet in staat is om haatzaaiende spraak op zijn netwerk adequaat te bestrijden, ondanks de toenemende bezorgdheid dat sociale netwerksites aan het tanken zijn haat misdaad in de echte wereld.

Hoeveel opmerkingen worden er gerapporteerd?

Dit brengt ons bij het andere belangrijke cijfer dat niet is opgenomen in de gegevens die door Facebook zijn vrijgegeven: het totale aantal door gebruikers gemelde reacties. Aangezien dit een fundamenteel mechanisme is bij het aanpakken van online misbruik, moet het aantal rapporten dat aan het bedrijf wordt uitgebracht openbaar worden gemaakt. Dit zal ons in staat stellen om de volledige omvang van beledigend commentaar online te begrijpen, terwijl het totale aantal berichten dat Facebook niet van de site verwijdert, duidelijk wordt.

Het besluit van Facebook om gegevens vrij te geven die de schaal van misbruik op haar site blootleggen, is een belangrijke stap voorwaarts. Twitter daarentegen werd om soortgelijke informatie gevraagd maar weigerde om het vrij te geven, bewerend dat het misleidend zou zijn. Het is duidelijk dat niet alle opmerkingen die worden gemarkeerd door gebruikers van sociale netwerksites, de algemene voorwaarden schenden. Maar het feit dat Twitter deze informatie niet vrijgeeft, doet vermoeden dat het bedrijf niet bereid is om de omvang van misbruik op zijn eigen site te onthullen.

The ConversationMaar zelfs Facebook heeft nog een lange weg te gaan om tot volledige transparantie te komen. Idealiter zouden alle sociale netwerksites jaarverslagen uitbrengen over hoe ze online misbruik aanpakken. Dit zou regelgevers en het publiek in staat stellen om de bedrijven directer te ondersteunen bij het verantwoorden van fouten bij het verwijderen van online misbruik van hun servers.

Over de auteur

Laura Bliss, promovendus in sociale mediawetgeving, Edge Hill University

Dit artikel is oorspronkelijk gepubliceerd op The Conversation. Lees de originele artikel.

Related Books:

{amazonWS: searchindex = Books; keywords = online abuse; maxresults = 3}

enafarzh-CNzh-TWnltlfifrdehiiditjakomsnofaptruessvtrvi

volg InnerSelf op

facebook-icontwitter-iconrss-icoon

Ontvang de nieuwste via e-mail

{Emailcloak = off}