Hoe kunstmatige intelligentie de droom van een totalitair is

Hoe kunstmatige intelligentie de droom van een totalitair is shutterstock.

Individualistische westerse samenlevingen zijn gebouwd op het idee dat niemand onze gedachten, verlangens of vreugde beter kent dan wij. En dus geven we onszelf, in plaats van de overheid, de leiding over ons leven. We zijn het meestal eens met de filosoof De bewering van Immanuel Kant dat niemand het recht heeft ons zijn idee van het goede leven op te dringen.

Kunstmatige intelligentie (AI) gaat hierin verandering brengen. Het zal ons beter kennen dan wij onszelf kennen. Een regering gewapend met AI zou kunnen beweren te weten wat de mensen echt willen en waar ze echt gelukkig van worden. Het zal dit in het beste geval gebruiken om paternalisme te rechtvaardigen, in het slechtste geval totalitarisme.

Elke hel begint met een belofte van de hemel. Door AI geleid totalitarisme zal niet anders zijn. Vrijheid wordt gehoorzaamheid aan de staat. Alleen de irrationele, hatelijke of subversieve mensen zouden hun eigen pad kunnen kiezen.

Om een ​​dergelijke dystopie te voorkomen, moeten we niet toestaan ​​dat anderen meer over onszelf weten dan wij. We kunnen geen zelfkenniskloof toelaten.

De allesziende AI

In 2019 beweerde de miljardair-investeerder Peter Thiel dat AI 'letterlijk communistisch”. Hij wees erop dat AI een centraliserende macht mogelijk maakt om burgers te monitoren en meer over hen te weten dan zij over zichzelf weten. China, merkte Thiel op: heeft AI gretig omarmd.

We kennen het potentieel van AI al ondersteunen totalitarisme door een Orwelliaans systeem van bewaking en controle te bieden. Maar AI geeft totalitairen ook een filosofisch wapen. Zolang we onszelf beter kenden dan de regering, kon het liberalisme aspirant-totalitairen op afstand houden.

Maar AI heeft het spel veranderd. Grote technologiebedrijven verzamelen enorme hoeveelheden gegevens over ons gedrag. Algoritmen voor machine learning gebruiken deze gegevens om niet alleen te berekenen wat we gaan doen, maar ook wie we zijn.


Haal het laatste uit InnerSelf


Vandaag de dag, AI kan voorspellen welke films we leuk zullen vinden, welk nieuws we willen lezen en met wie we vrienden willen maken op Facebook. Het kan voorspellen of koppels blijven bij elkaar en als we willen zelfmoordpoging. Van onze Facebook likes, AI kan voorspellen onze religieuze en politieke opvattingen, persoonlijkheid, intelligentie, drugsgebruik en geluk.

De nauwkeurigheid van de voorspellingen van AI zal alleen maar verbeteren. In de niet al te verre toekomst, zoals de schrijver Yuval Noah Harari heeft gesuggereerd, kan AI ons vertellen wie we zijn voordat we het zelf weten.

Deze ontwikkelingen hebben seismische politieke implicaties. Als regeringen ons beter kunnen kennen dan wij, ontstaat er een nieuwe rechtvaardiging om in ons leven in te grijpen. Ze zullen ons tiranniseren in naam van ons eigen bestwil.

Vrijheid door tirannie

De filosoof Isaiah Berlin voorzag dit in 1958. He identificeerde twee soorten vrijheid. Eén type, zo waarschuwde hij, zou tot tirannie leiden.

Negatieve vrijheid is "vrijheid van". Het is vrij zijn van inmenging van andere mensen of de overheid in uw zaken. Negatieve vrijheid is dat niemand anders je kan tegenhouden, zolang je de rechten van iemand anders niet schendt.

Positieve vrijheid daarentegen is "vrijheid tot". Het is de vrijheid om meester over jezelf te zijn, vrijheid om je ware verlangens te vervullen, vrijheid om een ​​rationeel leven te leiden. Wie wil dit nou niet?

Maar wat als iemand anders zegt dat u niet handelt in uw "ware belang", hoewel ze weten hoe u dat zou kunnen? Als u niet luistert, kunnen ze dwingen je om vrij te zijn - u dwingen voor uw "eigen bestwil". Dit is een van de gevaarlijkste ideeën die ooit zijn bedacht. Het heeft tientallen miljoenen mensen gedood in Stalins Sovjet-Unie en Mao's China.

De Russische communistische leider, Lenin, zou hebben gezegd dat de kapitalisten hem het touw zouden verkopen waarmee hij hen zou ophangen. Peter Thiel heeft ruzie gemaakt dat, in AI, kapitalistische technologiebedrijven in Silicon Valley het communisme een instrument hebben verkocht dat de democratische kapitalistische samenleving dreigt te ondermijnen. AI is het touw van Lenin.

Vechten voor onszelf

Zo'n dystopie kunnen we alleen voorkomen als niemand ons beter mag kennen dan wij onszelf kennen. We moeten nooit iemand sentimenteel maken die als goedbedoelende macht over ons zoekt. Historisch gezien is dit alleen maar uitgelopen op een ramp.

Een manier om een ​​zelfkenniskloof te voorkomen, is door onze privacyschilden te verhogen. Thiel, die AI bestempelde als communistisch, heeft betoogd dat "crypto is libertair”. Cryptocurrencies kunnen zijn "privacy mogelijk maken”. Privacy vermindert het vermogen van anderen om ons te kennen en deze kennis vervolgens te gebruiken manipuleren ons voor hun eigen gewin.

Maar onszelf beter kennen door AI biedt krachtige voordelen. We kunnen het misschien gebruiken om beter te begrijpen wat ons gelukkig, gezond en rijk maakt. Het kan helpen begeleiden onze carrièrekeuzes. Meer in het algemeen, AI belooft de economische groei te creëren dat houdt ons uit elkaars keel.

Het probleem is niet dat AI onze zelfkennis verbetert. Het probleem is a machtsverschillen in wat er over ons bekend is. Kennis over ons exclusief in andermans handen is macht over ons. Maar kennis over ons in onze eigen handen is macht voor ons.

Iemand die verwerkt onze gegevens om kennis over ons te creëren, zou wettelijk verplicht moeten zijn om ons die kennis terug te geven. We moeten het idee van "niets over ons zonder ons”Voor het AI-tijdperk.

Wat AI ons over onszelf vertelt, is dat we overwegen om het te gebruiken, niet dat anderen profiteren van misbruik. Er mag altijd maar één hand op de helmstok van onze ziel liggen. En het zou van ons moeten zijn.The Conversation

Over de auteur

Simon McCarthy-Jones, universitair hoofddocent in de klinische psychologie en neuropsychologie, Trinity College Dublin

Dit artikel is opnieuw gepubliceerd vanaf The Conversation onder een Creative Commons-licentie. Lees de originele artikel.

enafarzh-CNzh-TWnltlfifrdehiiditjakomsnofaptruessvtrvi

volg InnerSelf op

facebook-icontwitter-iconrss-icoon

Ontvang de nieuwste via e-mail

{Emailcloak = off}

Steun een goede baan!

VAN DE REDACTIE

InnerSelf Nieuwsbrief: oktober 11, 2020
by InnerSelf Staff
Het leven is een reis en gaat, zoals de meeste reizen, gepaard met ups en downs. En net zoals de dag altijd de nacht volgt, zo gaan onze persoonlijke dagelijkse ervaringen van donker naar licht en heen en weer. Echter,…
InnerSelf Nieuwsbrief: oktober 4, 2020
by InnerSelf Staff
Wat we ook doormaken, zowel individueel als collectief, we moeten niet vergeten dat we geen hulpeloze slachtoffers zijn. We kunnen onze kracht terugwinnen om ons eigen pad te banen en ons leven geestelijk te genezen ...
InnerSelf-nieuwsbrief: september 27, 2020
by InnerSelf Staff
Een van de sterke punten van het menselijk ras is ons vermogen om flexibel te zijn, creatief te zijn en buiten de gebaande paden te denken. Om iemand anders te zijn dan we gisteren of eergisteren waren. We kunnen veranderen...…
Wat voor mij werkt: "For The Highest Good"
by Marie T. Russell, InnerSelf
De reden dat ik deel "wat voor mij werkt" is dat het ook voor jou kan werken. Als het niet precies de manier is waarop ik het doe, aangezien we allemaal uniek zijn, kan een afwijking van de houding of methode heel goed iets zijn ...
Was u de vorige keer een deel van het probleem? Zult u deze keer deel uitmaken van de oplossing?
by Robert Jennings, InnerSelf.com
Heeft u zich geregistreerd om te stemmen? Heeft u gestemd? Als u niet gaat stemmen, maakt u deel uit van het probleem.