De kern van de ontwikkeling van AI lijkt een zoektocht naar perfectie te zijn. En het zou net zo gevaarlijk kunnen zijn voor de mensheid als het idee dat voortkwam uit filosofische en pseudowetenschappelijke ideeën uit de 19e en vroege 20e eeuw en leidde tot de verschrikkingen van kolonialisme, wereldoorlog en de Holocaust. In plaats van een door mensen heersend "meesterras", zouden we kunnen eindigen met een machine.

Als dit extreem lijkt, denk dan eens aan het antimenselijke perfectionisme dat al centraal staat op de arbeidsmarkt. Hier is AI-technologie de volgende stap in het uitgangspunt van maximale productiviteit die individueel vakmanschap verving door de fabrieksproductielijn. Deze enorme veranderingen in productiviteit en de manier waarop we werken creëerden kansen en bedreigingen die nu zullen worden verergerd door een "vierde industriële revolutie”Waarin AI menselijke werkers verder vervangt.

Verscheidene recente onderzoeksartikelen voorspellen dat automatisering binnen tien jaar de helft van de huidige banen zal vervangen. Dus, in ieder geval in deze overgang naar een nieuwe gedigitaliseerde economie, zullen veel mensen hun broodwinning verliezen. Zelfs als we aannemen dat deze nieuwe industriële revolutie een nieuwe beroepsbevolking zal voortbrengen die in staat is om door deze door gegevens gedomineerde wereld te navigeren en deze te beheersen, zullen we nog steeds met grote sociaaleconomische problemen worden geconfronteerd. De verstoringen zullen immens zijn en moeten worden onderzocht.

Het uiteindelijke doel van AI, zelfs de beperkte AI die zeer specifieke taken afhandelt, is om elke menselijke cognitieve functie te overtreffen en te perfectioneren. Uiteindelijk kunnen machine-learning-systemen worden geprogrammeerd om in alles beter te zijn dan mensen.

Wat ze echter misschien nooit zullen ontwikkelen, is de menselijke aanraking - empathie, liefde, haat of een van de andere zelfbewuste emoties die ons menselijk maken. Dat is tenzij we deze gevoelens aan hen toeschrijven, en dat is wat sommigen van ons zijn al bezig met onze "Alexas" en "Siris".

Productiviteit versus menselijke aanraking

De obsessie met perfectie en 'hyperefficiëntie' heeft een diepgaande invloed gehad op menselijke relaties, zelfs op de menselijke voortplanting, aangezien mensen hun leven leiden in afgezonderde, virtuele realiteiten die ze zelf hebben gemaakt. Zo hebben verschillende Amerikaanse en Chinese bedrijven robotpoppen geproduceerd die snel uitverkocht zijn als vervangende partners.

Een man zelfs in China trouwde met zijn cyberpopterwijl een vrouw in Frankrijk "Trouwde" met een "robo-man", adverteerde haar liefdesverhaal als een vorm van "robo-seksualiteit" en voerde campagne om haar huwelijk te legaliseren. "Ik ben echt en helemaal gelukkig", zei ze. "Onze relatie zal beter en beter worden naarmate de technologie evolueert." Daar lijkt te zijn grote vraag naar robotvrouwen en echtgenoten over de hele wereld.

In de perfect productieve wereld zouden mensen als waardeloos worden beschouwd, zeker in termen van productiviteit maar ook in termen van onze zwakke menselijkheid. Tenzij we deze perfectionistische levenshouding overboord gooien die productiviteit en 'materiële groei' boven duurzaamheid en individueel geluk plaatst, zou AI-onderzoek een andere ketting kunnen zijn in de geschiedenis van zelfvernietigende menselijke uitvindingen.

We zijn al getuige van discriminatie in algoritmische berekeningen. Onlangs een populaire De Zuid-Koreaanse chatbot Lee Luda is offline gehaald. "Ze" was gemodelleerd naar de persona van een 20-jarige vrouwelijke universiteitsstudent en werd verwijderd van Facebook Messenger na het gebruik van haatzaaiende uitlatingen tegen LGBT-mensen.

Ondertussen dragen geautomatiseerde wapens die zijn geprogrammeerd om te doden, maxima als "productiviteit" en "efficiëntie" in de strijd. Als gevolg hiervan is oorlog duurzamer geworden. De proliferatie van oorlogsvoering met drones is een zeer levendig voorbeeld van deze nieuwe vormen van conflict. Ze creëren een virtuele realiteit die bijna niet in ons bereik is.

Maar het zou komisch zijn om AI af te schilderen als een onvermijdelijke Orwelliaanse nachtmerrie van een leger van superintelligente "Terminators" wiens missie het is om het menselijk ras uit te wissen. Dergelijke dystopische voorspellingen zijn te grof om de kern van kunstmatige intelligentie en de impact ervan op ons dagelijks bestaan ​​te vatten.

Samenlevingen kunnen profiteren van AI als het wordt ontwikkeld met het oog op duurzame economische ontwikkeling en menselijke veiligheid. De samenvloeiing van macht en AI die bijvoorbeeld streeft naar systemen voor controle en toezicht, mag niet in de plaats komen van de belofte van een gehumaniseerde AI die machine learning-technologie in dienst stelt van de mens en niet andersom.

Daartoe moeten de AI-menselijke interfaces die zich snel openen in bijvoorbeeld gevangenissen, gezondheidszorg, overheid, sociale zekerheid en grenscontrole, worden gereguleerd om ethiek en menselijke veiligheid te bevoordelen boven institutionele efficiëntie. De sociale wetenschappen en geesteswetenschappen hebben een veel te zeggen over dergelijke kwesties.

Een ding om opgewekt over te zijn, is de waarschijnlijkheid dat AI nooit een vervanging zal zijn voor menselijke filosofie en intellect. Om filosoof te zijn, heb je empathie nodig, een goed begrip van de mensheid en onze aangeboren emoties en motieven. Als we onze machines kunnen programmeren om dergelijke ethische normen te begrijpen, dan heeft AI-onderzoek het vermogen om ons leven te verbeteren, wat het uiteindelijke doel zou moeten zijn van elke technologische vooruitgang.

Maar als AI-onderzoek een nieuwe ideologie oplevert rond het idee van perfectionisme en maximale productiviteit, dan zal het een destructieve kracht zijn die zal leiden tot meer oorlogen, meer hongersnoden en meer sociale en economische problemen, vooral voor de armen. Op dit moment in de mondiale geschiedenis is deze keuze nog steeds aan ons.

Over de auteur

Arshin Adib-Moghaddam, hoogleraar Global Thought and Comparative Philosophies, SOAS, University of London

Dit artikel is opnieuw gepubliceerd vanaf The Conversation onder een Creative Commons-licentie. Lees de originele artikel.