Facebook heeft voor het eerst gegevens over de omvang van beledigende opmerkingen op zijn site geplaatst. Dit is mogelijk gedaan onder de toenemende druk van organisaties op socialemediabedrijven om meer te zijn transparant over online misbruik, of om geloofwaardigheid te verwerven na de Gegevensschandaal bij Cambridge Analytica. Hoe dan ook, de cijfers zorgen niet voor plezierig lezen.
In een periode van zes maanden van oktober 2017 tot maart 20178 werden 21 miljoen seksueel expliciete foto's, 3.5 miljoen grafisch gewelddadige posts en 2.5 miljoen vormen van haatzaaiende uitlatingen van de site verwijderd. Deze cijfers helpen enkele opvallende punten aan het licht te brengen.
Zoals verwacht geven de gegevens aan dat het probleem erger wordt. Zo werd tussen januari en maart geschat dat van elke 10,000 online berichten er tussen de 22 en 27 expliciet geweld bevatten, gestegen van 16 naar 19 in de voorgaande drie maanden. Dit maakt duidelijk dat in het VK het aantal vervolgingen voor online misbruik is afgenomen, zoals blijkt uit de onderstaande grafiek.
Maar wat Facebook ons niet heeft verteld, is net zo belangrijk.
Het sociale netwerk is geweest onder toenemende druk om misbruik op haar site tegen te gaan, in het bijzonder het verwijderen van terroristische propaganda na gebeurtenissen zoals de aanslag in Westminster in 2017 en de bomaanslag in de Manchester Arena. Hier is het bedrijf proactief geweest. Tussen januari en maart 2018 verwijderde Facebook 1.9 miljoen berichten die terroristische propaganda aanmoedigden, een stijging van 800,000 reacties in vergelijking met de voorgaande drie maanden. In totaal is 99.5% van deze berichten gelokaliseerd met behulp van voortschrijdende technologie.
Op het eerste gezicht lijkt het erop dat Facebook met succes software heeft ontwikkeld die deze inhoud van zijn server kan verwijderen. Maar Facebook heeft geen cijfers vrijgegeven die laten zien hoe heersende terrorist propaganda staat op zijn site. We weten dus echt niet hoe succesvol de software in dit opzicht is.
Gewelddadige berichten verwijderen
Facebook heeft ook technologie gebruikt om grafisch geweld van zijn site te verwijderen. Tussen de twee perioden van drie maanden was er een toename van 183% in het aantal verwijderde berichten die als grafisch gewelddadig werden bestempeld. In totaal werd 86% van deze opmerkingen gemarkeerd door een computersysteem.
Maar we weten ook dat uit de cijfers van Facebook ook blijkt dat tot 27 van de 10,000 reacties die voorbij de detectietechnologie kwamen expliciet geweld bevatten. Dat klinkt niet als veel, maar het is de moeite waard om rekening te houden met het enorme aantal reacties dat door de meer dan 2 miljard actieve gebruikers op de site is geplaatst. Eén schatting suggereert dat er elke minuut 510,000 reacties worden geplaatst. Als dit klopt, zou dat betekenen dat er elke 1,982,880 uur 24 gewelddadige opmerkingen worden geplaatst.
Om de fouten in zijn detectiesoftware te compenseren, vertrouwt Facebook, net als andere sociale netwerken, al jaren op zelfregulering, waarbij gebruikers worden aangemoedigd om opmerkingen rapporteren zij vinden dat ze niet op de site zouden moeten staan. Tussen januari en maart 2018 verwijderde Facebook bijvoorbeeld 2.5 miljoen reacties die als haatdragende taal werden beschouwd, terwijl slechts 950,000 (38%) van deze berichten door het systeem waren gemarkeerd. De andere 62% werden gemeld door gebruikers. Dit toont aan dat de technologie van Facebook er niet in slaagt haatspraak op zijn netwerk adequaat te bestrijden, ondanks de groeiende bezorgdheid over sociale netwerksites zijn aan het tanken haatmisdrijven in de echte wereld.
Hoeveel reacties worden gerapporteerd?
Dit brengt ons bij het andere significante cijfer dat niet is opgenomen in de door Facebook vrijgegeven gegevens: het totale aantal opmerkingen dat door gebruikers is gemeld. Aangezien dit een fundamenteel mechanisme is bij het aanpakken van online misbruik, moet het aantal meldingen dat aan het bedrijf wordt gedaan openbaar worden gemaakt. Dit stelt ons in staat om de volledige omvang van beledigend commentaar online te begrijpen, terwijl het totale aantal berichten duidelijk wordt dat Facebook niet van de site verwijdert.
Het besluit van Facebook om gegevens vrij te geven die de omvang van het misbruik op zijn site blootleggen, is een belangrijke stap voorwaarts. Twitter daarentegen werd om soortgelijke informatie gevraagd maar weigerde om het vrij te geven, bewerend dat het misleidend zou zijn. Het is duidelijk dat niet alle opmerkingen die door gebruikers van sociale netwerksites zijn gemarkeerd, in strijd zijn met de algemene voorwaarden. Maar het feit dat Twitter deze informatie niet vrijgeeft, suggereert dat het bedrijf niet bereid is de omvang van het misbruik op zijn eigen site bekend te maken.
Maar zelfs Facebook heeft nog een lange weg te gaan om tot volledige transparantie te komen. Idealiter zouden alle sociale netwerksites jaarlijks rapporteren over hoe ze online misbruik aanpakken. Dit zou toezichthouders en het publiek in staat stellen om de bedrijven directer ter verantwoording te roepen voor het niet verwijderen van online misbruik van hun servers.
Maar zelfs Facebook heeft nog een lange weg te gaan om tot volledige transparantie te komen. Idealiter zouden alle sociale netwerksites jaarlijks rapporteren over hoe ze online misbruik aanpakken. Dit zou toezichthouders en het publiek in staat stellen om de bedrijven directer ter verantwoording te roepen voor het niet verwijderen van online misbruik van hun servers.Over de auteur
Laura Bliss, promovendus socialemediarecht, Edge Hill University
Dit artikel is oorspronkelijk gepubliceerd op The Conversation. Lees de originele artikel.
Related Books:
at InnerSelf Market en Amazon
