Afbeelding door Susan Cipriano
Van de redactie:
Zoals in dit artikel wordt benadrukt, zou de ontwikkeling van AI-gestuurde politieke campagnes, zoals de hypothetische machine genaamd Clogger, de integriteit van verkiezingen ernstig kunnen ondermijnen. Door gebruik te maken van automatisering, op maat gemaakte berichtgeving en versterkend leren, hebben deze machines het potentieel om het gedrag van kiezers op grote schaal te manipuleren en te veranderen.
In een tijdperk waarin kunstmatige intelligentie (AI) snel evolueert, moeten we waakzaam blijven voor de potentiële bedreigingen die het vormt voor onze democratische processen. De opkomst van AI-gestuurde campagnes daagt de essentie van democratie uit. In plaats van dat verkiezingen worden bepaald door de kracht van ideeën, beleidsvoorstellen en echte kiezerskeuzes, zouden ze kunnen worden beïnvloed door machines die uitsluitend gericht zijn op de overwinning. De inhoud die de overhand heeft, zou afkomstig zijn van AI-taalmodellen zonder rekening te houden met waarheid of politieke principes. In wezen zou de verkiezingsuitslag worden gedicteerd door kunstmatige intelligentie, waardoor het democratische proces zou worden uitgehold.
Om de opkomst van een "clogocratie" en de machteloosheid van burgers te voorkomen, is het cruciaal dat we actie ondernemen. Verbeterde privacybescherming en strenge wetten inzake gegevensprivacy kunnen helpen de toegang van AI-machines tot persoonlijke gegevens te beperken, waardoor hun effectiviteit bij het targeten en manipuleren van individuen afneemt. Verkiezingscommissies zouden ook moeten overwegen om AI-systemen die zijn ontworpen om kiezers te beïnvloeden, te verbieden of strikt te reguleren. Implementatie van regelgeving die duidelijke disclaimers vereist wanneer AI-gegenereerde berichten worden gebruikt in politieke campagnes. Dit kan transparantie bieden en kiezers helpen weloverwogen beslissingen te nemen.
Het is absoluut noodzakelijk dat we deze uitdagingen proactief aanpakken en ervoor zorgen dat de kracht van AI op verantwoorde wijze wordt aangewend om de beginselen van democratie hoog te houden. Door de integriteit van verkiezingen te waarborgen en de keuzevrijheid te beschermen, kunnen we door de complexiteit van AI navigeren en de fundamenten van democratisch bestuur behouden.
Hoe AI verkiezingen kan overnemen – en de democratie kan ondermijnen
Geschreven door Archont Fung, hoogleraar burgerschap en zelfbestuur, Harvard Kennedy School en Lawrence Lessig, hoogleraar recht en leiderschap, Harvard University
Zouden organisaties kunstmatige intelligentie-taalmodellen zoals ChatGPT kunnen gebruiken om kiezers ertoe aan te zetten zich op een bepaalde manier te gedragen?
Senator Josh Hawley stelde deze vraag aan de CEO van OpenAI, Sam Altman 16 mei 2023, hoorzitting van de Amerikaanse Senaat op kunstmatige intelligentie. Altman antwoordde dat hij inderdaad bezorgd was dat sommige mensen taalmodellen zouden gebruiken om kiezers te manipuleren, te overtuigen en een-op-een-interacties aan te gaan.
Altman werkte niet verder uit, maar hij had misschien zoiets als dit scenario in gedachten. Stel je voor dat politieke technologen binnenkort een machine ontwikkelen die Clogger heet – een politieke campagne in een zwarte doos. Clogger streeft onophoudelijk slechts één doel na: de kans maximaliseren dat zijn kandidaat – de campagne die de diensten van Clogger Inc. koopt – wint bij verkiezingen.
Terwijl platforms zoals Facebook, Twitter en YouTube vormen van AI gebruiken om gebruikers zover te krijgen besteed meer tijd op hun sites zou de AI van Clogger een ander doel hebben: het stemgedrag van mensen veranderen.
Hoe Clogger zou werken
Als politicoloog en jurist die de kruising van technologie en democratie bestuderen, geloven we dat zoiets als Clogger automatisering zou kunnen gebruiken om de schaal en mogelijk de effectiviteit van gedragsmanipulatie en microtargetingtechnieken die politieke campagnes sinds het begin van de jaren 2000 hebben gebruikt. Net als adverteerders gebruiken uw browse- en sociale mediageschiedenis om commerciële en politieke advertenties nu individueel te targeten, zou Clogger aandacht besteden aan jou – en honderden miljoenen andere kiezers – individueel.
Het zou drie voordelen bieden ten opzichte van de huidige state-of-the-art algoritmische gedragsmanipulatie. Ten eerste zou het taalmodel berichten genereren - teksten, sociale media en e-mail, misschien inclusief afbeeldingen en video's - die op jou persoonlijk zijn afgestemd. Waar adverteerders strategisch een relatief klein aantal advertenties plaatsen, kunnen taalmodellen zoals ChatGPT tijdens een campagne talloze unieke berichten voor u persoonlijk – en miljoenen voor anderen – genereren.
Ten tweede zou Clogger een techniek gebruiken genaamd versterking van leren om een opeenvolging van berichten te genereren die uw stem steeds waarschijnlijker zullen veranderen. Reinforcement learning is een machine-learning, trial-and-error benadering waarbij de computer acties onderneemt en feedback krijgt over wat beter werkt om te leren hoe een doel te bereiken. Machines die Go, Chess en veel videogames kunnen spelen beter dan welk mens dan ook hebben versterkend leren gebruikt.
Hoe versterkend leren werkt.
Ten derde kunnen de berichten van Clogger in de loop van een campagne evolueren om rekening te houden met uw reacties op eerdere berichten van de machine en wat het heeft geleerd over het veranderen van de mening van anderen. Clogger zou in de loop van de tijd dynamische "gesprekken" met u - en miljoenen andere mensen - kunnen voeren. De berichten van Clogger zouden vergelijkbaar zijn met advertenties die u volgen op verschillende websites en sociale media.
De aard van AI
Drie andere functies – of bugs – zijn het vermelden waard.
Ten eerste kunnen de berichten die Clogger verzendt al dan niet politiek van inhoud zijn. Het enige doel van de machine is het maximaliseren van het aantal stemmen, en het zou waarschijnlijk strategieën bedenken om dit doel te bereiken waar geen enkele menselijke campagnevoerder aan zou hebben gedacht.
Een mogelijkheid is om waarschijnlijke tegenstanderkiezers informatie te sturen over niet-politieke passies die ze hebben in sport of entertainment om de politieke berichten die ze ontvangen te begraven. Een andere mogelijkheid is het versturen van onaangename berichten – bijvoorbeeld incontinentiereclame – die zo getimed zijn dat ze samenvallen met de berichten van tegenstanders. En een ander manipuleert de sociale media-vriendengroepen van kiezers om het gevoel te geven dat hun sociale kringen de kandidaat steunen.
Ten tweede heeft Clogger geen respect voor de waarheid. Het heeft inderdaad geen manier om te weten wat waar of onwaar is. Taalmodel “hallucinaties” zijn geen probleem voor deze machine omdat het doel is om uw stem te wijzigen, niet om nauwkeurige informatie te verstrekken.
Ten derde, omdat het een black box-type kunstmatige intelligentie, zouden mensen op geen enkele manier weten welke strategieën het gebruikt.
Het gebied van verklaarbare AI heeft tot doel de black box van veel machine-learningmodellen te openen, zodat mensen kunnen begrijpen hoe ze werken.
Clogocratie
Als de Republikeinse presidentiële campagne Clogger in 2024 zou inzetten, zou de Democratische campagne waarschijnlijk gedwongen zijn om in natura te reageren, misschien met een vergelijkbare machine. Noem het Dogger. Als de campagnemanagers dachten dat deze machines effectief waren, zou de presidentiële wedstrijd misschien neerkomen op Clogger vs. Dogger, en de winnaar zou de klant van de effectievere machine zijn.
Politicologen en experts zouden veel te zeggen hebben over waarom de ene of de andere AI zegevierde, maar waarschijnlijk zou niemand het echt weten. De president zal niet zijn gekozen omdat zijn of haar beleidsvoorstellen of politieke ideeën meer Amerikanen hebben overtuigd, maar omdat hij of zij over de effectievere AI beschikte. De inhoud die de dag won, zou afkomstig zijn van een AI die uitsluitend gericht was op de overwinning, zonder eigen politieke ideeën, in plaats van van kandidaten of partijen.
In deze zeer belangrijke zin zou een machine de verkiezingen hebben gewonnen in plaats van een persoon. De verkiezingen zouden niet langer democratisch zijn, ook al hebben alle gewone activiteiten van de democratie – de toespraken, de advertenties, de boodschappen, het stemmen en het tellen van de stemmen – plaatsgevonden.
De door AI gekozen president kan dan twee kanten op. Hij of zij zou de verkiezingsmantel kunnen gebruiken om het beleid van de Republikeinse of Democratische partij na te streven. Maar omdat de ideeën van de partij misschien weinig te maken hadden met waarom mensen stemden zoals ze stemden – Clogger en Dogger geven niet om beleidsstandpunten – zouden de acties van de president niet noodzakelijkerwijs de wil van de kiezers weerspiegelen. Kiezers zouden door de AI zijn gemanipuleerd in plaats van vrijelijk hun politieke leiders en beleid te kiezen.
Een andere manier is dat de president de boodschappen, het gedrag en het beleid nastreeft waarvan de machine voorspelt dat ze de kansen op herverkiezing maximaliseren. Op dit pad zou de president geen specifiek platform of agenda hebben behalve het handhaven van de macht. De acties van de president, geleid door Clogger, zouden de kiezers het meest waarschijnlijk manipuleren in plaats van hun oprechte belangen of zelfs de eigen ideologie van de president te dienen.
Clogocratie vermijden
Het zou mogelijk zijn om AI-verkiezingsmanipulatie te voorkomen als kandidaten, campagnes en adviseurs allemaal het gebruik van dergelijke politieke AI zouden afzweren. Wij denken dat dat onwaarschijnlijk is. Als er politiek effectieve zwarte dozen zouden worden ontwikkeld, zou de verleiding om ze te gebruiken bijna onweerstaanbaar zijn. Politieke adviseurs zouden deze instrumenten wellicht kunnen zien als vereist door hun professionele verantwoordelijkheid om hun kandidaten te helpen winnen. En zodra één kandidaat zo'n effectief instrument gebruikt, kan van de tegenstanders nauwelijks worden verwacht dat ze zich verzetten door eenzijdig te ontwapenen.
Verbeterde privacybescherming zou helpen. Clogger zou afhankelijk zijn van toegang tot enorme hoeveelheden persoonlijke gegevens om individuen te targeten, berichten op maat te maken om hen te overtuigen of te manipuleren, en ze te volgen en opnieuw te targeten in de loop van een campagne. Elk stukje van die informatie dat bedrijven of beleidsmakers de machine ontkennen, zou hem minder effectief maken.
Strenge wetten inzake gegevensprivacy kunnen helpen voorkomen dat AI manipulatief wordt.
Een andere oplossing ligt bij verkiezingscommissies. Ze zouden kunnen proberen deze machines te verbieden of streng te reguleren. Er is een felle discussie over of dat zo is "replicerende" spraak, ook al is het politiek van aard, kan worden gereguleerd. De extreme vrijheid van meningsuiting in de VS leidt ertoe dat veel vooraanstaande academici zeggen dat dit niet kan.
Maar er is geen reden om de bescherming van het eerste amendement automatisch uit te breiden tot het product van deze machines. De natie zou er best voor kunnen kiezen om machines rechten te geven, maar dat zou een beslissing moeten zijn die gebaseerd is op de uitdagingen van vandaag, niet de misplaatste aanname dat de opvattingen van James Madison in 1789 bedoeld waren om van toepassing te zijn op AI.
Regelgevers van de Europese Unie gaan in deze richting. Beleidsmakers hebben het ontwerp van de wet op kunstmatige intelligentie van het Europees Parlement herzien om "AI-systemen om kiezers in campagnes te beïnvloeden" aan te duiden als "hoog risico" en onderworpen aan regelgevend toezicht.
Een grondwettelijk veiligere, zij het kleinere, stap, al gedeeltelijk overgenomen door Europese internetregulatoren en in Californië, is om te voorkomen dat bots zichzelf voordoen als mensen. Regelgeving kan bijvoorbeeld vereisen dat campagneboodschappen worden geleverd met disclaimers wanneer de inhoud die ze bevatten, is gegenereerd door machines in plaats van door mensen.
Dit zou hetzelfde zijn als de vereisten voor de disclaimer van advertenties – “Betaald door de Sam Jones for Congress Committee” – maar aangepast om de AI-oorsprong weer te geven: “Deze door AI gegenereerde advertentie is betaald door de Sam Jones for Congress Committee.” Een sterkere versie zou kunnen vereisen: "Dit door AI gegenereerde bericht wordt naar u verzonden door de Sam Jones for Congress Committee omdat Clogger heeft voorspeld dat uw kansen om op Sam Jones te stemmen met 0.0002% toenemen." We vinden op zijn minst dat kiezers het verdienen om te weten wanneer het een bot is die tegen hen spreekt, en ze zouden ook moeten weten waarom.
De mogelijkheid van een systeem als Clogger laat zien dat de weg ernaar toe menselijke collectieve onmacht heeft misschien geen bovenmenselijke nodig kunstmatige algemene intelligentie. Het kan alleen maar overenthousiaste campagnevoerders en consultants nodig hebben die krachtige nieuwe tools hebben die effectief op de vele knoppen van miljoenen mensen kunnen drukken.
Over de Auteurs
Archont Fung, hoogleraar burgerschap en zelfbestuur, Harvard Kennedy School en Lawrence Lessig, hoogleraar recht en leiderschap, Harvard University
Dit artikel is opnieuw gepubliceerd vanaf The Conversation onder een Creative Commons-licentie. Lees de originele artikel.
Addendum van de redactie: Het potentieel van AI om verkiezingen over te nemen en de democratie te ondermijnen, is een dringende zorg die onze aandacht vereist. Zoals dit artikel heeft benadrukt, zou de opkomst van AI-gestuurde politieke campagnes zoals Clogger de verkiezingsuitslagen kunnen hervormen, met machines die het kiezersgedrag op een ongekende schaal beïnvloeden. De gevolgen van een dergelijke verschuiving zouden verreikend zijn, waarbij verkiezingen niet worden bepaald door de wil van het volk, maar door de effectiviteit van AI-manipulatie.
Om deze machteloosheid van burgers te voorkomen en de democratie te vrijwaren, moeten we proactieve maatregelen nemen. Robuuste privacybescherming en regelgeving die de invloed van AI-systemen bij verkiezingen beperkt, zijn cruciaal. Door transparantie te waarborgen, duidelijke disclaimers af te dwingen voor door AI gegenereerde inhoud en verantwoord gebruik van AI te bevorderen, kunnen we de integriteit van democratische processen handhaven en de fundamentele waarden van onze samenleving beschermen.
Het is van essentieel belang dat we waakzaam blijven en collectief samenwerken om de uitdagingen van AI bij verkiezingen het hoofd te bieden. Door dit te doen, kunnen we de democratische idealen behouden die ten grondslag liggen aan onze samenlevingen en een toekomst veiligstellen waarin de kracht van technologie is afgestemd op de belangen en ambities van de mensen.
Related Books:
Over tirannie: twintig lessen uit de twintigste eeuw
door Timothy Snyder
Dit boek biedt lessen uit de geschiedenis voor het behouden en verdedigen van democratie, inclusief het belang van instellingen, de rol van individuele burgers en de gevaren van autoritarisme.
Klik voor meer info of om te bestellen
Onze tijd is nu: macht, doel en de strijd voor een eerlijk Amerika
door Stacey Abrams
De auteur, een politicus en activist, deelt haar visie voor een meer inclusieve en rechtvaardige democratie en biedt praktische strategieën voor politiek engagement en mobilisatie van kiezers.
Klik voor meer info of om te bestellen
Hoe democratieën sterven
door Steven Levitsky en Daniel Ziblatt
Dit boek onderzoekt de waarschuwingssignalen en oorzaken van democratische ineenstorting, op basis van casestudy's van over de hele wereld om inzicht te bieden in hoe de democratie kan worden beschermd.
Klik voor meer info of om te bestellen
Het volk, nee: een korte geschiedenis van anti-populisme
door Thomas Frank
De auteur biedt een geschiedenis van populistische bewegingen in de Verenigde Staten en bekritiseert de "anti-populistische" ideologie die volgens hem democratische hervormingen en vooruitgang in de kiem heeft gesmoord.
Klik voor meer info of om te bestellen
Democratie in één boek of minder: hoe het werkt, waarom het niet werkt en waarom het gemakkelijker is om het op te lossen dan u denkt
door David Litt
Dit boek biedt een overzicht van de democratie, met inbegrip van haar sterke en zwakke punten, en stelt hervormingen voor om het systeem responsiever en verantwoordelijker te maken.
