shutterstock.
Individualistische westerse samenlevingen zijn gebouwd op het idee dat niemand onze gedachten, verlangens of vreugde beter kent dan wij. En dus geven we onszelf, in plaats van de overheid, de leiding over ons leven. We zijn het meestal eens met de filosoof De bewering van Immanuel Kant dat niemand het recht heeft ons zijn idee van het goede leven op te dringen.
Kunstmatige intelligentie (AI) gaat hierin verandering brengen. Het zal ons beter kennen dan wij onszelf kennen. Een regering gewapend met AI zou kunnen beweren te weten wat de mensen echt willen en waar ze echt gelukkig van worden. Het zal dit in het beste geval gebruiken om paternalisme te rechtvaardigen, in het slechtste geval totalitarisme.
Elke hel begint met een belofte van de hemel. Door AI geleid totalitarisme zal niet anders zijn. Vrijheid wordt gehoorzaamheid aan de staat. Alleen de irrationele, hatelijke of subversieve mensen zouden hun eigen pad kunnen kiezen.
Om een dergelijke dystopie te voorkomen, moeten we niet toestaan dat anderen meer over onszelf weten dan wij. We kunnen geen zelfkenniskloof toelaten.
De allesziende AI
In 2019 beweerde de miljardair-investeerder Peter Thiel dat AI 'letterlijk communistisch”. Hij wees erop dat AI een centraliserende macht mogelijk maakt om burgers te monitoren en meer over hen te weten dan zij over zichzelf weten. China, merkte Thiel op: heeft AI gretig omarmd.
We kennen het potentieel van AI al ondersteunen totalitarisme door een Orwelliaans systeem van bewaking en controle te bieden. Maar AI geeft totalitairen ook een filosofisch wapen. Zolang we onszelf beter kenden dan de regering, kon het liberalisme aspirant-totalitairen op afstand houden.
Maar AI heeft het spel veranderd. Grote technologiebedrijven verzamelen enorme hoeveelheden gegevens over ons gedrag. Algoritmen voor machine learning gebruiken deze gegevens om niet alleen te berekenen wat we gaan doen, maar ook wie we zijn.
Vandaag de dag, AI kan voorspellen welke films we leuk zullen vinden, welk nieuws we willen lezen en met wie we vrienden willen maken op Facebook. Het kan voorspellen of koppels blijven bij elkaar en als we willen zelfmoordpoging. Van onze Facebook likes, AI kan voorspellen onze religieuze en politieke opvattingen, persoonlijkheid, intelligentie, drugsgebruik en geluk.
De nauwkeurigheid van de voorspellingen van AI zal alleen maar verbeteren. In de niet al te verre toekomst, zoals de schrijver Yuval Noah Harari heeft gesuggereerd, kan AI ons vertellen wie we zijn voordat we het zelf weten.
Deze ontwikkelingen hebben seismische politieke implicaties. Als regeringen ons beter kunnen kennen dan wij, ontstaat er een nieuwe rechtvaardiging om in ons leven in te grijpen. Ze zullen ons tiranniseren in naam van ons eigen bestwil.
Vrijheid door tirannie
De filosoof Isaiah Berlin voorzag dit in 1958. He identificeerde twee soorten vrijheid. Eén type, zo waarschuwde hij, zou tot tirannie leiden.
Negatieve vrijheid is "vrijheid van". Het is vrij zijn van inmenging van andere mensen of de overheid in uw zaken. Negatieve vrijheid is dat niemand anders je kan tegenhouden, zolang je de rechten van iemand anders niet schendt.
Positieve vrijheid daarentegen is "vrijheid tot". Het is de vrijheid om meester over jezelf te zijn, vrijheid om je ware verlangens te vervullen, vrijheid om een rationeel leven te leiden. Wie wil dit nou niet?
Maar wat als iemand anders zegt dat u niet handelt in uw "ware belang", hoewel ze weten hoe u dat zou kunnen? Als u niet luistert, kunnen ze dwingen je om vrij te zijn - u dwingen voor uw "eigen bestwil". Dit is een van de gevaarlijkste ideeën die ooit zijn bedacht. Het heeft tientallen miljoenen mensen gedood in Stalins Sovjet-Unie en Mao's China.
De Russische communistische leider, Lenin, zou hebben gezegd dat de kapitalisten hem het touw zouden verkopen waarmee hij hen zou ophangen. Peter Thiel heeft ruzie gemaakt dat, in AI, kapitalistische technologiebedrijven in Silicon Valley het communisme een instrument hebben verkocht dat de democratische kapitalistische samenleving dreigt te ondermijnen. AI is het touw van Lenin.
Vechten voor onszelf
Zo'n dystopie kunnen we alleen voorkomen als niemand ons beter mag kennen dan wij onszelf kennen. We moeten nooit iemand sentimenteel maken die als goedbedoelende macht over ons zoekt. Historisch gezien is dit alleen maar uitgelopen op een ramp.
Een manier om een zelfkenniskloof te voorkomen, is door onze privacyschilden te verhogen. Thiel, die AI bestempelde als communistisch, heeft betoogd dat "crypto is libertair”. Cryptocurrencies kunnen zijn "privacy mogelijk maken”. Privacy vermindert het vermogen van anderen om ons te kennen en deze kennis vervolgens te gebruiken manipuleren ons voor hun eigen gewin.
Maar onszelf beter kennen door AI biedt krachtige voordelen. We kunnen het misschien gebruiken om beter te begrijpen wat ons gelukkig, gezond en rijk maakt. Het kan helpen begeleiden onze carrièrekeuzes. Meer in het algemeen, AI belooft de economische groei te creëren dat houdt ons uit elkaars keel.
Het probleem is niet dat AI onze zelfkennis verbetert. Het probleem is a machtsverschillen in wat er over ons bekend is. Kennis over ons exclusief in andermans handen is macht over ons. Maar kennis over ons in onze eigen handen is macht voor ons.
Iemand die verwerkt onze gegevens om kennis over ons te creëren, zou wettelijk verplicht moeten zijn om ons die kennis terug te geven. We moeten het idee van "niets over ons zonder ons”Voor het AI-tijdperk.
Wat AI ons over onszelf vertelt, is dat we overwegen om het te gebruiken, niet dat anderen profiteren van misbruik. Er mag altijd maar één hand op de helmstok van onze ziel liggen. En het zou van ons moeten zijn.
Over de auteur
Simon McCarthy-Jones, universitair hoofddocent in de klinische psychologie en neuropsychologie, Trinity College Dublin
Dit artikel is opnieuw gepubliceerd vanaf The Conversation onder een Creative Commons-licentie. Lees de originele artikel.
Related Books:
Over tirannie: twintig lessen uit de twintigste eeuw
door Timothy Snyder
Dit boek biedt lessen uit de geschiedenis voor het behouden en verdedigen van democratie, inclusief het belang van instellingen, de rol van individuele burgers en de gevaren van autoritarisme.
Klik voor meer info of om te bestellen
Onze tijd is nu: macht, doel en de strijd voor een eerlijk Amerika
door Stacey Abrams
De auteur, een politicus en activist, deelt haar visie voor een meer inclusieve en rechtvaardige democratie en biedt praktische strategieën voor politiek engagement en mobilisatie van kiezers.
Klik voor meer info of om te bestellen
Hoe democratieën sterven
door Steven Levitsky en Daniel Ziblatt
Dit boek onderzoekt de waarschuwingssignalen en oorzaken van democratische ineenstorting, op basis van casestudy's van over de hele wereld om inzicht te bieden in hoe de democratie kan worden beschermd.
Klik voor meer info of om te bestellen
Het volk, nee: een korte geschiedenis van anti-populisme
door Thomas Frank
De auteur biedt een geschiedenis van populistische bewegingen in de Verenigde Staten en bekritiseert de "anti-populistische" ideologie die volgens hem democratische hervormingen en vooruitgang in de kiem heeft gesmoord.
Klik voor meer info of om te bestellen
Democratie in één boek of minder: hoe het werkt, waarom het niet werkt en waarom het gemakkelijker is om het op te lossen dan u denkt
door David Litt
Dit boek biedt een overzicht van de democratie, met inbegrip van haar sterke en zwakke punten, en stelt hervormingen voor om het systeem responsiever en verantwoordelijker te maken.
