Een typisch sociaal botaccount. CC B

Socialemediaplatforms zijn meer geworden dan louter communicatiemiddelen. Ze zijn uitgegroeid tot bruisende arena's waar waarheid en onwaarheid botsen. Van deze platforms valt X op als een prominent slagveld. Het is een plek waar desinformatiecampagnes floreren, in stand gehouden door legers van AI-aangedreven bots die geprogrammeerd zijn om de publieke opinie te beïnvloeden en verhalen te manipuleren.

AI-aangedreven bots zijn geautomatiseerde accounts die zijn ontworpen om menselijk gedrag na te bootsen. Bots op sociale media, chatplatforms en conversationele AI zijn een integraal onderdeel van het moderne leven. Ze zijn bijvoorbeeld nodig om AI-toepassingen effectief te laten draaien.

Maar sommige bots zijn gemaakt met kwaadaardige bedoelingen. Schokkend genoeg vormen bots een aanzienlijk deel van de gebruikersbasis van X. In 2017 het werd geschat dat er ongeveer 23 miljoen sociale bots waren, goed voor 8.5% van het totale aantal gebruikers. Ruim tweederde van de tweets afkomstig zijn van deze geautomatiseerde accounts, waardoor het bereik van desinformatie wordt vergroot en de wateren van het publieke debat worden vertroebeld.

Hoe bots werken

Sociale invloed is nu een goed dat kan worden verkregen door bots te kopen. Bedrijven verkopen nepvolgers om de populariteit van accounts kunstmatig te vergroten. Deze volgers zijn verkrijgbaar tegen opmerkelijk lage prijzen, met veel beroemdheden onder de kopers.

In de loop van ons onderzoek ontdekten collega's en ik bijvoorbeeld een bot die 100 tweets had gepost waarin volgers te koop werden aangeboden.

Met behulp van AI-methodieken en een theoretische aanpak genoemd actor-netwerk theoriehebben mijn collega's en ik ontleed hoe kwaadaardige sociale bots sociale media manipuleren en met alarmerende doeltreffendheid beïnvloeden wat mensen denken en hoe ze handelen. We kunnen met een nauwkeurigheidspercentage van 79.7% zien of nepnieuws door een mens of een bot is gegenereerd. Het is van cruciaal belang om te begrijpen hoe zowel mensen als AI desinformatie verspreiden om de manieren te begrijpen waarop mensen AI gebruiken om desinformatie te verspreiden.

Om een ​​voorbeeld te noemen: we onderzochten de activiteit van een account met de naam ‘True Trumpers’ op Twitter.

Het account is in augustus 2017 opgericht, heeft geen volgers en geen profielfoto, maar had op het moment van het onderzoek 4,423 tweets gepost. Deze omvatten een reeks volledig verzonnen verhalen. Het is vermeldenswaard dat deze bot afkomstig is uit een Oost-Europees land.

Een stroom nepnieuws van een botaccount. Buzzfeed, CC BY

Onderzoek als dit heeft X ertoe aangezet de activiteiten van sociale bots te beperken. Als reactie op de dreiging van manipulatie van sociale media heeft X tijdelijke leeslimieten ingevoerd om het schrapen en manipuleren van gegevens tegen te gaan. Geverifieerde accounts zijn beperkt tot het lezen van 6,000 berichten per dag, terwijl niet-geverifieerde accounts 600 per dag kunnen lezen. Dit is een nieuwe update, dus we weten nog niet of deze effectief is geweest.

Kunnen we onszelf beschermen?

Het is echter uiteindelijk de taak van de gebruikers om voorzichtig te zijn en waarheid van leugens te onderscheiden, vooral tijdens verkiezingsperiodes. Door informatie kritisch te evalueren en bronnen te controleren, kunnen gebruikers een rol spelen bij het beschermen van de integriteit van democratische processen tegen de aanval van bots en desinformatiecampagnes op X. Iedere gebruiker is in feite een frontlinieverdediger van waarheid en democratie. Waakzaamheid, kritisch denken en een gezonde dosis scepticisme zijn essentiële wapenrustingen.

Bij sociale media is het belangrijk dat gebruikers de strategieën begrijpen die door kwaadwillende accounts worden gebruikt.

Kwaadwillige actoren maken vaak gebruik van netwerken van bots om valse verhalen te versterken, trends te manipuleren en snel desinformatie te verspreiden. Gebruikers moeten voorzichtig zijn als ze accounts tegenkomen die verdacht gedrag vertonen, zoals overmatig posten of herhaalde berichtenuitwisseling.

Desinformatie wordt ook vaak verspreid via speciale nepnieuwswebsites. Deze zijn ontworpen om geloofwaardige nieuwsbronnen te imiteren. Gebruikers wordt geadviseerd de authenticiteit van nieuwsbronnen te verifiëren door informatie te vergelijken met gerenommeerde bronnen en door factcheckende organisaties te raadplegen.

Zelfbewustzijn is een andere vorm van bescherming, vooral tegen social engineering-tactieken. Psychologische manipulatie wordt vaak ingezet om gebruikers te misleiden zodat ze onwaarheden geloven of bepaalde acties ondernemen. Gebruikers moeten waakzaam blijven en de inhoud die ze tegenkomen kritisch beoordelen, vooral tijdens perioden van verhoogde gevoeligheid zoals verkiezingen.

Door op de hoogte te blijven, deel te nemen aan een maatschappelijk debat en te pleiten voor transparantie en verantwoording, kunnen we gezamenlijk vormgeven aan een digitaal ecosysteem dat vertrouwen, transparantie en geïnformeerde besluitvorming bevordert.

Nick Hajli, AI-strateeg en hoogleraar digitale strategie, Loughborough University

Dit artikel is opnieuw gepubliceerd vanaf The Conversation onder een Creative Commons-licentie. Lees de originele artikel.

Related Books:

Over tirannie: twintig lessen uit de twintigste eeuw

door Timothy Snyder

Dit boek biedt lessen uit de geschiedenis voor het behouden en verdedigen van democratie, inclusief het belang van instellingen, de rol van individuele burgers en de gevaren van autoritarisme.

Klik voor meer info of om te bestellen

Onze tijd is nu: macht, doel en de strijd voor een eerlijk Amerika

door Stacey Abrams

De auteur, een politicus en activist, deelt haar visie voor een meer inclusieve en rechtvaardige democratie en biedt praktische strategieën voor politiek engagement en mobilisatie van kiezers.

Klik voor meer info of om te bestellen

Hoe democratieën sterven

door Steven Levitsky en Daniel Ziblatt

Dit boek onderzoekt de waarschuwingssignalen en oorzaken van democratische ineenstorting, op basis van casestudy's van over de hele wereld om inzicht te bieden in hoe de democratie kan worden beschermd.

Klik voor meer info of om te bestellen

Het volk, nee: een korte geschiedenis van anti-populisme

door Thomas Frank

De auteur biedt een geschiedenis van populistische bewegingen in de Verenigde Staten en bekritiseert de "anti-populistische" ideologie die volgens hem democratische hervormingen en vooruitgang in de kiem heeft gesmoord.

Klik voor meer info of om te bestellen

Democratie in één boek of minder: hoe het werkt, waarom het niet werkt en waarom het gemakkelijker is om het op te lossen dan u denkt

door David Litt

Dit boek biedt een overzicht van de democratie, met inbegrip van haar sterke en zwakke punten, en stelt hervormingen voor om het systeem responsiever en verantwoordelijker te maken.

Klik voor meer info of om te bestellen