William Perugini/Shutterstock

Van de vele “diepgaande risico's voor de samenleving en de mensheid'waar tech-experts zich zorgen maken over kunstmatige intelligentie (AI), is de verspreiding van nepbeelden er een waar gewone internetgebruikers bekend mee zullen zijn.

Deepfakes – video’s of foto’s waarin iemands gezicht of lichaam digitaal is gewijzigd zodat het lijkt alsof hij iets doet wat hij niet doet – zijn al gebruikt om zich te verspreiden politieke desinformatie en valse pornografie.

Deze afbeeldingen zijn doorgaans kwaadaardig en worden gebruikt om het onderwerp in diskrediet te brengen. Als het om deepfake-pornografie gaat, is de grote meerderheid van de slachtoffers zijn vrouwen. Generatieve AI – technologie die wordt gebruikt om tekst, afbeeldingen en video te creëren – is dat wel al aan het maken op afbeeldingen gebaseerd seksueel misbruik gemakkelijker te plegen.

nieuwe reeks wetten in Groot-Brittannië zal het delen van deepfake-pornografie strafbaar stellen. Maar met de aandacht voor AI en deepfakes mogen we niet vergeten hoe minder geavanceerde technologie kan worden gebruikt als instrument voor misbruik, met verwoestende gevolgen voor de slachtoffers.

Techniek en controle

Toen ik begon met mijn onderzoek naar technologie in misbruikrelaties, waren deepfakes slechts een stipje aan de horizon. Mijn werk concentreerde zich op de rol van smartphones in het misbruik van vrouwen die hun controlerende relaties waren ontvlucht. Ik ontdekte dat daders van huiselijk geweld technologie gebruikten om het bereik van hun macht en controle over hun partners uit te breiden, een moderne kijk op misbruiktactieken die werden gebruikt lang geleden smartphones zaten in elke zak.

Mobiele telefoons kunnen rechtstreeks worden gebruikt voor monitoring en controle, met behulp van GPS-tracking of door een slachtoffer te bombarderen met sms-berichten, video's en spraakoproepen. Eén deelnemer aan mijn onderzoek in 2019 legde uit hoe haar gewelddadige partner zijn telefoon gebruikte om toegang te krijgen tot sociale media, haar aanstootgevende foto's via Instagram en aanhoudende en aanstootgevende WhatsApp-berichten stuurde.

Als ze uit was met haar vrienden, sms'te, belde en videobelde hij haar voortdurend om te controleren waar ze was en om te zien met wie ze was. Toen de deelnemer haar telefoon uitzette, nam haar toenmalige partner contact op met haar vrienden en bestookte ze met sms'jes en telefoontjes.

Deze deelnemer voelde zich te beschaamd om afspraken te maken voor een ontmoeting met haar leeftijdsgenoten en stopte daarom met uitgaan. Anderen in soortgelijke situaties kunnen worden uitgesloten van sociale plannen, als vrienden willen voorkomen dat de misbruiker van hun vriend contact met hen opneemt. Dergelijk sociaal isolement is een vaak voorkomend onderdeel van huiselijk geweld en een belangrijke indicator voor het controleren van relaties.

Volgens de liefdadigheidsinstelling Refuge voor huiselijk geweld, meer dan 72% van de mensen die gebruik maken van de diensten maakt melding van misbruik waarbij technologie betrokken is.

Mobiele telefoons zijn een toegangspoort tot andere gadgets, via het ‘internet der dingen’ – apparaten die met internet zijn verbonden en gegevens kunnen uitwisselen. Deze instrumenten kunnen ook door misbruikers als wapen worden gebruikt. Bijvoorbeeld door mobiele telefoons te gebruiken temperatuurinstellingen wijzigen op een huishoudthermostaat, waardoor van het ene op het andere uur extremen ontstaan.

Hierdoor in de war, zoeken mensen uitleg bij hun partner, maar krijgen ze te horen dat dit een verzinsel van hun verbeelding moet zijn. Gaslighting technieken Dergelijke zaken zorgen ervoor dat slachtoffers hun eigen gezond verstand in twijfel trekken, wat hun vertrouwen in hun eigen oordeel ondermijnt.

Een modern panopticum

Met één klik op de knop maken mobiele telefoons ongekende surveillance van anderen mogelijk. In de zak van een dader kunnen ze worden gebruikt om huidige en voormalige partners altijd en overal en – als het signaal het toelaat – overal in de gaten te houden. Dit levert daders a macht van almacht, waardoor slachtoffers het gevoel krijgen dat ze in de gaten worden gehouden, ook al is dat niet het geval.

Dit doet denken aan het werk van de 18e-eeuwse filosoof Jeremy Bentham, die het concept van het ‘panopticon’ introduceerde. Bentham stelde een ‘perfect’ gevangenissysteem voor, waarbij in het midden een wachttoren staat, omringd door individuele cellen.

Geïsoleerd van elkaar zouden gevangenen alleen de toren zien – een constante herinnering dat ze permanent in de gaten worden gehouden, ook al kunnen ze de bewaker erin niet zien. Bentham geloofde dat een dergelijke structuur zou resulteren in zelftoezicht van de gevangenen totdat er uiteindelijk geen sloten of tralies meer nodig waren.

Mijn meest recente onderzoek laat zien dat mobiele telefoons een vergelijkbare dynamiek hebben gecreëerd binnen misbruikrelaties. Telefoons vervullen de rol van de toren, en daders de bewakers daarin.

In dit moderne panopticon kunnen slachtoffers onderweg zijn, zichtbaar voor vreemden, vrienden en familie. Maar door de aanwezigheid van de telefoon hebben ze het gevoel dat ze nog steeds in de gaten worden gehouden en gecontroleerd door hun misbruikende partners.

Zoals een deelnemer het verwoordde: “Je hebt het gevoel dat er geen vrijheid is, zelfs niet als je weg bent. Je hebt het gevoel dat je ergens opgesloten zit, dat je geen vrijheid hebt, dat iemand je controleert.”

Overlevenden van misbruik blijven zichzelf in de gaten houden, zelfs als de daders er niet zijn. Ze handelen op manieren waarvan ze denken dat ze hun misbruikers zullen plezieren (of in ieder geval niet boos zullen maken).

Dit gedrag wordt door anderen vaak als vreemd gezien en al te gemakkelijk afgedaan als paranoia, angst of ernstiger geestelijke gezondheidsproblemen. De focus ligt op het gedrag van het slachtoffer en negeert de oorzaak: beledigend of crimineel gedrag van de partner.

Naarmate de technologie geavanceerder wordt, zullen de hulpmiddelen en strategieën die beschikbaar zijn voor misbruikers blijven evolueren. Dit zal het bereik van de daders vergroten en nieuwe mogelijkheden bieden voor surveillance, gaslighting en misbruik.

Totdat technologiebedrijven rekening houden met de ervaringen van overlevenden van huiselijk geweld en veiligheidsmechanismen inbouwen in het ontwerp van hun producten, zal misbruik blijven voortduren. verborgen in het volle zicht.

Tirion Havard, universitair hoofddocent sociaal werk, London South Bank University

Dit artikel is opnieuw gepubliceerd vanaf The Conversation onder een Creative Commons-licentie. Lees de originele artikel.