Donald Trump's controversiële verwijdering van sociale mediaplatforms heeft de discussie over de censuur van online gepubliceerde informatie weer aangewakkerd. Maar de kwestie van desinformatie en manipulatie op sociale media gaat veel verder dan het Twitter-account van een man. En het is veel wijdverspreider dan eerder werd gedacht.
Sinds 2016 volgt ons team van het Oxford Internet Institute de snelle wereldwijde verspreiding van campagnes voor het manipuleren van sociale media, die we definiëren als het gebruik van digitale tools om online openbaar gedrag te beïnvloeden. In de afgelopen vier jaar is de manipulatie van sociale media geëvolueerd van een niche-zorg naar een wereldwijde bedreiging voor democratie en mensenrechten.
Ons laatste rapport ontdekte dat georganiseerde campagnes voor het manipuleren van sociale media nu overal ter wereld gebruikelijk zijn - geïdentificeerd in 81 landen in 2020, vanaf 70-landen in 2019 De onderstaande kaart toont de wereldwijde spreiding van deze 81 landen, gemarkeerd in donkerblauw.
In ons rapport richten we ons op de inzet van ‘cybertroepen’. Dit zijn teams van de regering, het leger of politieke partijen die zich inzetten voor het manipuleren van de publieke opinie op sociale media. Cybertroepen voeren regelmatig zogenaamde "computationele propaganda" -campagnes.
Computationele propaganda omvat het gebruik van geprogrammeerde bots of mensen om opzettelijk misleidende informatie over het internet te verspreiden, vaak op een industriële schaal.
Om dit te doen, maken computationele propagandisten gebruik van een uitgebreide toolkit met desinformatiehulpmiddelen. Politieke bots versterken haatzaaiende uitlatingen en wekken de indruk van trending politieke berichten op Twitter en Facebook. De illegaal verzamelen van gegevens helpt propagandisten doelberichten bij specifieke, vaak kwetsbare individuen en groepen. Trol legersworden ondertussen regelmatig ingezet om politiek activisme en de persvrijheid te onderdrukken.
In 2020 hebben we 62 landen geïdentificeerd waarin overheidsinstanties deze instrumenten zelf gebruiken om de publieke opinie vorm te geven. In andere landen die in ons onderzoek zijn opgenomen, worden deze tools gebruikt door particuliere organisaties of buitenlandse actoren.
Desinformatie te huur
Ondanks het Cambridge Analytica-schandaal Ons onderzoek laat zien hoe particuliere bedrijven zich kunnen mengen in democratische verkiezingen en toonde ook een alarmerende toename aan in het gebruik van 'desinformatie-voor-verhuur'-diensten over de hele wereld. Met behulp van overheidsfinanciering en financiering van politieke partijen worden cybertroepen uit de particuliere sector gebruikt steeds vaker aangenomen om gemanipuleerde berichten online te verspreiden of om andere stemmen op sociale media te overstemmen.
Ons onderzoek wees uit dat statelijke actoren samenwerkten met particuliere computationele propagandabedrijven in 48 landen in 2020, tegen 21 geïdentificeerd tussen 2017 en 2018, en slechts negen van dergelijke gevallen tussen 2016 en 2017 Bijna sinds 2007 US $ 60 miljoen (£ 49 miljoen) is wereldwijd uitgegeven aan contracten met deze bedrijven.
Daarnaast hebben we relaties blootgelegd tussen ingehuurde cybertroepen en maatschappelijke groeperingen die ideologisch een bepaald doel steunen, zoals jeugdgroepen en beïnvloeders van sociale media. In de Verenigde Staten bijvoorbeeld de pro-Trump-jongerengroep Keerpuntactie werd gebruikt om online desinformatie en pro-Trump-verhalen te verspreiden over zowel COVID-19 als mail-in-stembiljetten.
Om hun politieke doeleinden te bereiken, zijn lastercampagnes tegen een politieke tegenstander de meest gebruikelijke strategie die door cybertroepen wordt toegepast, in 94% van alle landen die we hebben onderzocht. In 90% van de landen hebben we de verspreiding van pro-partij- of regeringspropaganda waargenomen. Het onderdrukken van deelname door middel van trollen of intimidatie was een kenmerk in 73% van de landen, terwijl in 48% van de berichten van cybertroepen werd getracht de burgers te polariseren.
Moderatie van sociale media
Duidelijk, debatteert rond de censurering van Trump en zijn aanhangers op sociale media heeft slechts betrekking op één facet van de desinformatiecrisis in de branche. Naarmate meer landen investeren in campagnes die hun burgers actief proberen te misleiden, zullen socialemediabedrijven waarschijnlijk te maken krijgen met meer oproepen tot matiging en regulering - en niet alleen van Trump, zijn volgelingen en gerelateerde complottheorieën zoals QAnon.
Donald Trump werd verbannen van Twitter in de nasleep van de Capitoolrellen. pcruciatti / Shutterstock
Al dit jaar is de prevalentie van computationele propagandacampagnes gedurende de COVID-19 pandemie en in de nasleep van de Amerikaanse verkiezingen heeft veel socialmediabedrijven ertoe aangezet om het misbruik van hun platforms te beperken door accounts te verwijderen waarvan zij denken dat ze worden beheerd door cybertroepen.
Uit ons onderzoek bleek bijvoorbeeld dat tussen januari 2019 en december 2020 Facebook verwijderd 10,893 accounts, 12,588 pagina's en 603 groepen vanaf zijn platform. In dezelfde periode, Twitter verwijderd 294,096 accounts, en blijft accounts verwijderen die aan uiterst rechts zijn gekoppeld.
Ondanks deze accountverwijderingen heeft ons onderzoek aangetoond dat tussen januari 2019 en december 2020 bijna US $ 10 miljoen werd uitgegeven door cybertroepen aan politieke advertenties. En een cruciaal onderdeel van het verhaal is dat sociale-mediabedrijven blijven profiteren van de promotie van desinformatie op hun platforms. Oproepen voor strengere regelgeving en strengere politie zullen Facebook en Twitter waarschijnlijk volgen totdat ze echt grip krijgen op de neiging van hun platforms om desinformatie te hosten, te verspreiden en te vermenigvuldigen.
Een sterke, functionele democratie is afhankelijk van de toegang van het publiek tot hoogwaardige informatie. Dit stelt burgers in staat met kennis van zaken te overleggen en consensus te zoeken. Het is duidelijk dat sociale mediaplatforms cruciaal zijn geworden in het vergemakkelijken van deze informatie-uitwisseling.
Deze bedrijven zouden daarom hun inspanningen moeten opvoeren om desinformatie te markeren en te verwijderen, samen met alle cybertroepaccounts die worden gebruikt om schadelijke inhoud online te verspreiden. Anders zal de voortdurende escalatie van computationele propagandacampagnes die ons onderzoek heeft aangetoond de politieke polarisatie alleen maar vergroten, het vertrouwen van het publiek in instellingen verminderen en de democratie wereldwijd verder ondermijnen.
Over de auteur
Hannah Bailey, PhD-onderzoeker in Social Data Science, Universiteit van Oxford
Dit artikel is opnieuw gepubliceerd vanaf The Conversation onder een Creative Commons-licentie. Lees de originele artikel.
