Amerikaanse technologie gigant Microsoft werkt samen met een Chinese militaire universiteit ontwikkelen kunstmatige intelligentiesystemen dat mogelijk de overheidssurveillance en censuurcapaciteiten zou kunnen verbeteren. Twee Amerikaanse senatoren publiekelijk veroordeeld het partnerschap, maar wat het Nationale Defensie Technologie Universiteit van China wil van Microsoft is niet de enige zorg.

As mijn onderzoek laat zien, de komst van digitale repressie heeft grote gevolgen de relatie tussen burger en staat. Nieuwe technologieën zetten regeringen in beweging met ongekende mogelijkheden om individuele personen te monitoren, volgen en controleren. Zelfs regeringen in democratieën met sterke tradities van van de rechtsstaat merken dat ze in de verleiding komen om te mishandelen deze nieuwe vaardigheden.

In landen met onverklaarbare instellingen en frequente mensenrechtenschendingen, AI-systemen zullen hoogstwaarschijnlijk grotere schade veroorzaken. China is een prominent voorbeeld. Het leiderschap heeft enthousiast AI-technologieën omarmd en heeft de wereld opgezet meest geavanceerd bewakingsstaat in Provincie Xinjiang, het volgen van dagelijkse bewegingen van burgers en het gebruik van smartphones.

De exploitatie van deze technologieën presenteert een huiveringwekkend model voor mede-autocraten en vormt een directe bedreiging voor open democratische samenlevingen. Hoewel er geen bewijs is dat andere regeringen dit niveau van AI-surveillance hebben gerepliceerd, exporteren Chinese bedrijven actief dezelfde onderliggende technologieën over de hele wereld.

Toenemende afhankelijkheid van AI-tools in de VS.

Kunstmatige intelligentiesystemen zijn overal in de moderne wereld, helpen bij het uitvoeren van smartphones, internetzoekmachines, digitale stemassistenten en Netflix-filmwachtrijen. Veel mensen realiseren zich niet hoe snel AI groeit, dankzij de steeds groter wordende hoeveelheden gegevens die moeten worden geanalyseerd, de verbetering van algoritmen en geavanceerde computerchips.

Telkens wanneer meer informatie beschikbaar komt en analyse eenvoudiger wordt, zijn overheden geïnteresseerd - en niet alleen autoritaire. In de VS zagen de 1970s bijvoorbeeld onthullingen die overheidsinstanties - zoals de FBI, de CIA en de NSA - hadden opgezet expansieve binnenlandse surveillancenetwerken om burgerrechtenactivisten, politieke activisten en indianengroepen te volgen en lastig te vallen. Deze problemen zijn niet weggenomen: de digitale technologie van vandaag heeft het vermogen van nog meer bureaus om zelfs nog meer opdringerige bewaking uit te voeren, verdiept.

Hoe eerlijk voorspellen algoritmen waar de politie het meest gefocust zou moeten zijn? Arnout de Vries

De Amerikaanse politie heeft bijvoorbeeld enthousiast AI-technologieën omarmd. Ze zijn begonnen met het gebruik van software die dat wel is bedoeld om te voorspellen waar misdaden zullen plaatsvinden om te beslissen waar de officieren op patrouille moeten sturen. Ze gebruiken ook gezichtsherkenning en DNA-analyse bij strafrechtelijk onderzoek. Maar analyses van deze systemen tonen de gegevens waarop die systemen zijn getraind zijn vaak bevooroordeeld, leidend tot oneerlijke resultaten, zoals ten onrechte bepalen dat Afro-Amerikanen vaker misdaden plegen dan andere groepen.

AI-bewaking over de hele wereld

In autoritaire landen kunnen KI-systemen direct de binnenlandse controle en bewaking aansturen, wat helpt interne veiligheidstroepen verwerken enorme hoeveelheden informatie - inclusief social media-berichten, sms-berichten, e-mails en telefoontjes - sneller en efficiënter. De politie kan sociale trends identificeren en specifieke mensen wie het regime zou kunnen bedreigen op basis van de informatie die door deze systemen is ontdekt.

De Chinese overheid heeft bijvoorbeeld AI gebruikt bij grootschalige hardhandig optreden in regio's waar etnische minderheden wonen in China. Surveillancesystemen in Xinjiang en Tibet zijn beschreven als "orwellian. "Deze inspanningen hebben inbegrepen verplichte DNA-monsters, Wi-Fi-netwerkmonitoring en wijdverbreide camera's voor gezichtsherkenning, allemaal verbonden met geïntegreerde data-analyseplatforms. Met behulp van deze systemen hebben de Chinese autoriteiten volgens het Amerikaanse ministerie van Buitenlandse Zaken "willekeurig vastgehouden" tussen 1 en 2 miljoen mensen.

My onderzoek kijkt naar 90-landen over de hele wereld met overheidstypen, gaande van gesloten autoritaire tot falende democratieën, waaronder Thailand, Turkije, Bangladesh en Kenia. Ik heb ontdekt dat Chinese bedrijven dat wel zijn het exporteren van AI-bewakingstechnologie op zijn minst 54 van deze landen. Vaak is deze technologie verpakt als onderdeel van het vlaggenschip van China Belt en Road Initiative, dat een uitgebreid netwerk van wegen, spoorwegen, energiepijplijnen en telecommunicatienetwerken financiert het bedienen van 60% van de wereldbevolking en economieën die 40% van het wereldwijde BBP genereren.

Chinese bedrijven houden bijvoorbeeld van Huawei en ZTE bouwen "slimme steden" in Pakistan, de Filipijnen en Kenia, met uitgebreide ingebouwde bewakingstechnologie. Huawei heeft bijvoorbeeld uitgerust Bonifacio Global City in de Filippijnen met high-definition internet-verbonden camera's die zorgen voor24 / 7 intelligente beveiligingstoezicht met data-analyse om misdaad te detecteren en het verkeer te helpen beheren. "

Bonifacio Global City op de Filippijnen heeft veel ingebedde bewakingsapparatuur. alveo land / Wikimedia Commons

Hikvision, Yitu en SenseTime leveren ultramoderne camera's voor gezichtsherkenning voor gebruik op plaatsen zoals Singapore - die de invoering van een bewakingsprogramma aankondigde met 110,000-camera's gemonteerd op lantaarnpalen rond de stadstaat. Zimbabwe creëert een nationale beeldbank die kan worden gebruikt voor gezichtsherkenning.

Het verkopen van geavanceerde apparatuur voor winst is echter anders dan het delen van technologie met een uitgesproken geopolitiek doel. Deze nieuwe mogelijkheden kunnen de kiem vormen voor wereldwijde surveillance: naarmate overheden meer afhankelijk worden van Chinese technologie om hun bevolking te beheren en hun macht te behouden, zullen ze meer onder druk staan ​​om zich aan te sluiten bij de Chinese agenda. Maar voorlopig lijkt het erop dat het belangrijkste motief van China is om de markt voor nieuwe technologieën te domineren en veel geld te verdienen in het proces.

AI en desinformatie

Naast het leveren van bewakingscapaciteiten die zowel vegen als fijnkorrelig zijn, kan AI repressieve regeringen helpen om beschikbare informatie te manipuleren en desinformatie te verspreiden. Deze campagnes kunnen worden geautomatiseerd of door automatisering worden ondersteund en geïmplementeerd hyper-gepersonaliseerde berichten gericht op - of tegen - specifieke mensen of groepen.

AI ondersteunt ook de technologie die gewoonlijk "deepfake, "Waarin algoritmen creëren realistische vervalsingen van video en audio. Het water tussen waarheid en fictie modderen kan nuttig zijn bij een strakke verkiezing, waarbij een kandidaat valse video's kan maken waarin een tegenstander het doen en dingen zegt die nooit echt zijn gebeurd.

Een vroege deepfake-video toont enkele van de gevaren van geavanceerde technologie.

{besloten Y=cQ54GDm1eL0}

Naar mijn mening moeten beleidsbepalers in democratieën goed nadenken over de risico's van AI-systemen voor hun eigen samenlevingen en voor mensen die onder autoritaire regimes over de hele wereld leven. Een kritische vraag is hoeveel landen het Chinese model van digitale surveillance zullen overnemen. Maar het zijn niet alleen autoritaire landen die de aantrekkingskracht voelen. En het zijn ook niet alleen Chinese bedrijven die de technologie verspreiden: veel Amerikaanse bedrijven, inclusief Microsoft, maar IBM, Cisco en Thermo Fisher hebben ook geavanceerde mogelijkheden geboden aan vervelende regeringen. Het misbruik van AI is niet beperkt tot autocratische toestanden.

Over de auteur

Steven Feldstein, Frank en Bethine Church voorzitter van Public Affairs en universitair hoofddocent, School of Public Service, Boise State University

Dit artikel is opnieuw gepubliceerd vanaf The Conversation onder een Creative Commons-licentie. Lees de originele artikel.

Verwante Boeken

at InnerSelf Market en Amazon