De vluchtige mix van deepfakes en politieke campagnes is een goede reden om op je hoede te zijn. Sean Anthony Eddy Creatief/E+ via Getty Images
Stel je een voor oktober verrassing als geen ander: slechts een week voor 5 november 2024 onthult een video-opname een geheime ontmoeting tussen Joe Biden en Volodymyr Zelenskyy. De Amerikaanse en Oekraïense presidenten komen overeen om Oekraïne onmiddellijk op te nemen in de NAVO onder "het speciale noodlidmaatschapsprotocol" en zich voor te bereiden op een aanval met kernwapens tegen Rusland. Plots staat de wereld aan de vooravond van Armageddon.
Terwijl journalisten daar wel op zouden kunnen wijzen zo'n protocol bestaat niet en gebruikers van sociale media merken misschien vreemde videogame-achtige eigenschappen van de video op, anderen kunnen dat voelen hun grootste angsten zijn bevestigd. Wanneer de verkiezingsdag aanbreekt, kunnen deze bezorgde burgers hun stem laten beïnvloeden door de video, niet wetende dat ze zojuist zijn gemanipuleerd door een situatie die deepfake is – een gebeurtenis die nooit echt heeft plaatsgevonden.
Situatie-deepfakes vertegenwoordigen de volgende fase van technologieën die heb al geschokte perceptie van het publiek van de werkelijkheid. In ons onderzoek aan de DeFake-project, mijn collega's bij de Rochester Institute of Technology Universiteit van Mississippi, Michigan State University en ik bestuderen hoe deepfakes worden gemaakt en welke maatregelen kiezers kunnen nemen om zich hiertegen te verdedigen.
Gebeurtenissen bedenken die nooit hebben plaatsgevonden
Een deepfake ontstaat vooral wanneer iemand een tool voor kunstmatige intelligentie gebruikt diepgaand leren, manipuleren of genereren van een gezichtsverzorging, een stem of – met de opkomst van grote taalmodellen als ChatGPT - gesprekstaal. Deze kunnen worden gecombineerd om 'situation deepfakes' te vormen.
Het basisidee en de technologie van een deepfake-situatie zijn hetzelfde als bij elke andere deepfake, maar met een gedurfdere ambitie: een echte gebeurtenis manipuleren of er een uit het niets verzinnen. Voorbeelden zijn afbeeldingen van De daderwandeling van Donald Trump en Trump knuffelt Anthony Fauci, geen van beide is gebeurd. Het knuffelschot werd gepromoot door een Twitter-account in verband met de presidentiële campagne van Trump-rivaal Ron DeSantis. Een aanval advertentie gericht op de campagne van Joe Biden uit 2024, gepubliceerd door het Republikeinse Nationale Comité volledig gemaakt met AI.
Op de DeFake-project, Onze onderzoek heeft gevonden dat deepfakes, inclusief situaties, doorgaans worden gecreëerd door een combinatie van het ene stuk media toevoegen aan het andere; een filmpje gebruiken om een afbeelding te animeren of een andere video te wijzigen, genaamd poppenspel; een stuk media tot leven toveren, meestal met behulp van generatieve AI; of een combinatie van deze technieken.
Voor alle duidelijkheid: veel situatie-deepfakes worden gemaakt voor onschuldige doeleinden. Bijvoorbeeld, Infinite Odyssey-magazine produceert nepstills uit films die werden nooit geproduceerd or nooit had kunnen bestaan. Maar zelfs onschuldige deepfakes geven reden om te pauzeren, zoals in het geval van bijna geloofwaardige nepfoto's die de Apollo Maanlanding als filmproductie.
Een verkiezing deepfake
Verplaats jezelf nu in de positie van iemand die probeert de komende verkiezingen te beïnvloeden. Wat zijn de mogelijke situaties die u zou willen creëren?
Om te beginnen zou het uitmaken of u het stemmen in de richting van of weg van een specifieke uitkomst wilt kantelen. Misschien zou je een kandidaat uitbeelden die heldhaftig handelt door een voetganger uit de weg te ruimen voor een snel rijdende auto of, omgekeerd, door iets beledigends of crimineels te doen. Het formaat van de situatie deepfake zou ook van belang zijn. In plaats van een video kan het een foto zijn, misschien met de onscherpte en hoeken die een smartphonecamera simuleren of het vervalste logo van een persbureau.
Uw doelgroep zou centraal staan. In plaats van te mikken op het algemene electoraat of de basis van een partij, zou je je kunnen richten op complottheoretici in belangrijke kiesdistricten. Je zou de kandidaat of zijn gezinsleden kunnen afbeelden als betrokken bij een satanisch ritueel, die deelnemen aan een festival in de exclusief en controversieel Bohemian Grove, of met een geheime ontmoeting met een buitenaards wezen.
Als je er de ambitie en capaciteiten voor hebt, zou je zelfs kunnen proberen de verkiezing zelf te deepfaken. In juni 2023 werden de Russische televisie- en radiostations gehackt en een volledig mobilisatiebevel uitzenden een deepfake van de Russische president Vladimir Poetin. Hoewel dit bij Amerikaanse verkiezingen moeilijker zou zijn, zou in principe elk nieuwskanaal kunnen worden gehackt om deepfakes uit te zenden van hun ankers die de verkeerde resultaten aankondigen of een kandidaat die toegeeft.
De werkelijkheid verdedigen
Er zijn verschillende technologische en psychologische manieren om deepfakes in situaties op te sporen en te verdedigen.
Op technologisch vlak bevatten alle deepfakes enig bewijs van hun ware aard. Sommige van deze signalen kunnen door het menselijk oog worden gezien, zoals een te gladde huid of vreemde verlichting of architectuur, terwijl andere dat misschien wel zijn alleen detecteerbaar door een op deepfake jagende AI.
We zijn aan het bouwen DeFake's-detector om AI te gebruiken om de veelbetekenende tekenen van deepfakes op te vangen, en we werken eraan om het op tijd gereed te hebben voor de verkiezingen van 2024. Maar zelfs als een voldoende krachtige deepfake-detector als de onze niet op de verkiezingsdag kan worden ingezet, zijn er psychologische hulpmiddelen die u als kiezer kunt gebruiken om deepfakes te identificeren: achtergrondkennis, nieuwsgierigheid en gezonde scepsis.
Als u media-inhoud tegenkomt over een persoon, plaats of gebeurtenis die ongebruikelijk lijkt, vertrouw dan op uw achtergrondkennis. Bijvoorbeeld bij een recente hoax van een brand in het Pentagon, lijkt het getoonde gebouw meer vierkant dan vijfhoekig, wat een weggeefactie zou kunnen zijn.
Probeer echter niet volledig te vertrouwen op uw achtergrondkennis, die onjuist of fragmentarisch kan zijn. Wees nooit bang om meer te leren van betrouwbare bronnen, zoals op feiten gecontroleerde nieuwsberichten, collegiaal getoetste academische artikelen of interviews met gediplomeerde experts.
Houd er bovendien rekening mee dat deepfakes kunnen worden gebruikt om te profiteren van wat u bent geneigd te geloven over een persoon, plaats of gebeurtenis. Een van de beste manieren om hiermee om te gaan, is door simpelweg wees je bewust van je vooroordelen en wees een beetje op uw hoede voor media-inhoud die ze lijkt te bevestigen.
Zelfs als het mogelijk wordt om perfecte situatie-deepfakes te creëren, zal de geloofwaardigheid van hun onderwerp waarschijnlijk hun achilleshiel blijven. Dus, met of zonder een technologische oplossing, heb je nog steeds de macht om de verkiezingen te verdedigen tegen de invloed van nepgebeurtenissen.
Over de auteur
Christoffel Schwartz, postdoctoraal onderzoeksmedewerker computerbeveiliging, Rochester Institute of Technology
Dit artikel is opnieuw gepubliceerd vanaf The Conversation onder een Creative Commons-licentie. Lees de originele artikel.
Related Books:
Over tirannie: twintig lessen uit de twintigste eeuw
door Timothy Snyder
Dit boek biedt lessen uit de geschiedenis voor het behouden en verdedigen van democratie, inclusief het belang van instellingen, de rol van individuele burgers en de gevaren van autoritarisme.
Klik voor meer info of om te bestellen
Onze tijd is nu: macht, doel en de strijd voor een eerlijk Amerika
door Stacey Abrams
De auteur, een politicus en activist, deelt haar visie voor een meer inclusieve en rechtvaardige democratie en biedt praktische strategieën voor politiek engagement en mobilisatie van kiezers.
Klik voor meer info of om te bestellen
Hoe democratieën sterven
door Steven Levitsky en Daniel Ziblatt
Dit boek onderzoekt de waarschuwingssignalen en oorzaken van democratische ineenstorting, op basis van casestudy's van over de hele wereld om inzicht te bieden in hoe de democratie kan worden beschermd.
Klik voor meer info of om te bestellen
Het volk, nee: een korte geschiedenis van anti-populisme
door Thomas Frank
De auteur biedt een geschiedenis van populistische bewegingen in de Verenigde Staten en bekritiseert de "anti-populistische" ideologie die volgens hem democratische hervormingen en vooruitgang in de kiem heeft gesmoord.
Klik voor meer info of om te bestellen
Democratie in één boek of minder: hoe het werkt, waarom het niet werkt en waarom het gemakkelijker is om het op te lossen dan u denkt
door David Litt
Dit boek biedt een overzicht van de democratie, met inbegrip van haar sterke en zwakke punten, en stelt hervormingen voor om het systeem responsiever en verantwoordelijker te maken.
