Privébedrijven controleren online haat zonder onafhankelijk toezicht of regulering, wat ernstige implicaties heeft en risico's inhoudt voor de fundamentele mensenrechten en vrijheden. (Shutterstock)

De door fakkels aangestoken mars door gewapende blanke supremacisten onlangs in Charlottesville, Va., Blijft discussie genereren over hoe haatgroepen gereguleerd moeten worden. Te midden van de groeiende publieke druk na de opmars haastten internetbedrijven zich om websites van hun platformen te verwijderen die met gewelddadige haatuitingen te maken hadden.

GoDaddy heeft zijn domeinservices beëindigd naar de neo-nazi-website The Daily Stormer, zoals ook Kopen Google Reviews. Cloudflare, een bedrijf dat websites beschermt tegen online aanvallen, ook verboden de haatwebsite van zijn platform. Rusland heeft de site geblokkeerd van gehost in het land.

Mijn onderzoek en mijn boek Chokepunten: wereldwijde privaatrechtelijke regeling op internet aantonen dat veel internetbedrijven content al verwijderen en gebruikers 'vrijwillig' verbieden - dat wil zeggen, bij gebrek aan wetgeving of gerechtelijke procedures. Belangrijke tussenpersonen, waaronder Google, PayPal, GoDaddy, Twitter en Facebook, controleren vrijwillig hun platforms op inhoud voor seksueel misbruik van kinderen, extremisme en de illegale handel in namaakgoederen.

Veel mensen juichen deze pogingen begrijpelijk toe om haatzaaiende en andere aanstootgevende inhoud uit te roeien. De inspanningen van internetbedrijven als feitelijke regelgevers van meningsuiting roepen echter serieuze vragen op: hoe moet online-inhoud worden gereguleerd? Door wie?

Ik steun geen blanke supremacisten en ik pleit niet tegen een aantal politietaken voor een dergelijke toespraak. Integendeel, ik zeg dat we serieus moeten nadenken over het reguleren van online-inhoud, omdat het volgende geval misschien niet zo duidelijk is.

Er zijn aanzienlijke problemen met het vertrouwen op krachtige bedrijven om op internet te surveilleren, omdat hun handhavingspraktijken onoverzichtelijk zijn en vatbaar voor willekeurige interpretaties.

Storend precedent

In een ontnuchterend contrast met het gejuich van internetbedrijven voor hun publieke verzet tegen de Daily Stormer, bood Cloudflare's CEO Matthew Prince een genuanceerd, voorzichtig perspectief, en waarschuwde dat het terugtrekken van diensten van haatgroepen als reactie op publieke druk een verontrustend precedent schept in online spionage. .

In een blogpost Terwijl hij Cloudflare's acties tegen de Daily Stormer uitlegde, stelde Prince dat het bedrijf een eerlijk proces als een 'belangrijker principe' beschouwt dan vrijheid van meningsuiting. 'Due process', zei hij, betekent dat 'je moet kunnen weten welke regels een systeem zal volgen als je deelneemt aan dat systeem'. Deze verklaring vat treffend de inherente problemen samen met intermediairs die als de feitelijke regulatoren van inhoud en online gedrag werken.

Eerder dit jaar, Medewerkers van Shopify en honderden duizenden mensen aangespoord en petitie het online handelsplatform om te stoppen met het hosten van de internetwinkel van Bre-baard Media. Herstelde uitvoerend voorzitter Stephen Bannon gesprekken Breitbart "het platform voor het alt-recht." De zogenaamde "alt-right" - een term gepopulariseerd door Richard Bertrand Spencer - bestrijkt een mix van blanke supremacisten, separatisten, neo-nazi's, fascistische, racistische, antisemitische, islamofobe en populistische conservatieve ideologieën.

CEO van Shopify Tobias Lütke zei dat hij de vrije meningsuiting verdedigde terwijl het bedrijf in Ottawa de online winkel van Breitbart bleef bedreigen onder bedreiging van werknemers aftreden. Na publiek druk en een grassroots-campagne genaamd #DeleteShopify leidde tot kritisch onderzoek dat meer onthulde twijfelachtig bedrijf, Shopify was gedwongen een aannemen "Aanvaardbaar gebruik beleid."

De contrasterende voorbeelden van The Daily Stormer en de schrapping door internetbedrijven en Shopify's standvastige ondersteuning voor Breitbart, tonen uitersten aan van een dilemma dat alleen maar belooft te intensiveren.

Willekeurig beleid, regulering

Internetbemiddelaars hebben de potentie om krachtige toezichthouders te zijn over een breed scala aan kwesties, omdat ze snel en zonder rechterlijke bevelen kunnen handelen. Belangrijk is dat ze de ruimte hebben om inhoud te censureren of gebruikers te verbieden op basis van hun gebruiksvoorwaarden.

PayPal behoudt zich het recht voor om zijn services aan gebruikers te beëindigen "om welke reden en op elk moment, "Taal die wordt weerspiegeld in de serviceovereenkomsten van de meeste tussenpersonen. Het vermogen tot willekeurige regulering wordt aldus ingebed in de interne regels van tussenpersonen.

Prince waarschuwde dat de actie van Cloudflare tegen de Daily Stormer een precedent schept voor tussenpersonen voor politietoespraak zonder gerechtelijke bevelen die hen hiertoe verplichten.

Deze tussenpersonen handelen vaak in opdracht van overheden die bedrijven prefereren als het publieke (maar grotendeels onverklaarbare) gezicht van internetregulering. Maar deze bedrijven zijn over het algemeen slecht toegerust om de legaliteit van illegaliteit te onderscheiden, waardoor ze onrechtmatig worden onderuit gehaald en ten onrechte op wettig gedrag zijn gericht.

Even problematisch: de handhavingsprocessen van tussenpersonen zijn vaak ondoorzichtig aangezien hun inhoudsmoderators hun complexe, snel veranderende interne regels willekeurig interpreteren. Deze problemen worden nog verergerd door het groeiende gebruik van tussenpersonen door geautomatiseerde hulpmiddelen om problematische inhoud op hun platforms te identificeren en te verwijderen.

Er is ook bezorgdheid over zogenaamde mission-creep wanneer regels die voor het eerst zijn ingevoerd tegen kindermisbruik of terrorisme - opmerkelijke katalysatoren voor handhavingsmaatregelen - later worden toegepast op andere duidelijk minder schadelijke kwesties, zoals het ongeoorloofd downloaden van auteursrechtelijk beschermde inhoud.

Dystopian toekomst is hier

Regulerende inspanningen breiden zich gewoonlijk uit van het censureren van gewelddadige haatdragende taal tot andere spraak die door sommigen als controversieel wordt beschouwd, zoals die van Black Lives Matter. Ook regeringen van over de hele wereld doen regelmatig druk op tussenpersonen om censureren en volgen critici en politieke tegenstanders.

Wanneer grote intermediairs regelgevende instanties worden die verantwoordelijk zijn voor het controleren van inhoud namens overheden of als reactie op spraakmakende protesten, neemt hun al aanzienlijke macht toe. In de VS gevestigde internetbedrijven domineren al veel industriële sectoren, waaronder zoeken, adverteren, domeinregistratie, betaling en sociale media. Cloudflare's Prince terecht waarschuwde dat afhankelijk van een 'paar gigantische netwerken' een 'klein aantal bedrijven grotendeels zal bepalen wat wel en niet online kan zijn'.

Deze dystopische toekomst is er al.

De takedown van de Daily Stormer maakt de wereld ongetwijfeld een betere plek. Maar willen we echt dat bedrijven zoals Facebook en Twitter - onafhankelijk, willekeurig en in het geheim - beslissen welke inhoud we kunnen openen en delen?

Gezien deze schijnbaar onhandelbare problemen, wat kunnen we doen? Ten eerste moeten we vermijden te regeren op basis van protesten of media-druk. In plaats daarvan, we hebben een duidelijke set regels nodig tussenpersonen in staat stellen consequent, transparant en met respect voor een eerlijk proces te reageren, zoals Prince heeft aanbevolen.

Regeringen moeten de aard van en, belangrijker nog, de beperkingen van regelgevende verantwoordelijkheden van tussenpersonen verduidelijken. Ten slotte moeten we stoppen met regeren in reactie op specifieke crises - het zogenaamde 'nepnieuws', terrorisme en haatgroepen - en in plaats daarvan kritisch nadenken over hoe we het internet kunnen en moeten besturen.

Over de auteur

Natasha Tusikov, universitair docent, Criminologie, Afdeling Sociale Wetenschappen, Universiteit van York, Canada

Dit artikel is opnieuw gepubliceerd vanaf The Conversation onder een Creative Commons-licentie. Lees de originele artikel.

Verwante Boeken

at InnerSelf Market en Amazon