De release van de geavanceerde chatbot ChatGPT in 2022 kreeg iedereen het over kunstmatige intelligentie (AI). De geavanceerde mogelijkheden versterkten de bezorgdheid dat AI zo geavanceerd zou worden dat we het binnenkort niet meer onder controle zouden kunnen houden. Dit leidde er zelfs toe dat sommige experts en industrieleiders waarschuwden dat de technologie kan leiden tot het uitsterven van de mens.
Andere commentatoren waren echter niet overtuigd. Noam Chomsky, een professor in de taalkunde, verwierp ChatGPT als "hoogtechnologisch plagiaat'.
Jarenlang was ik ontspannen over het vooruitzicht van de impact van AI op het menselijk bestaan en onze omgeving. Dat komt omdat ik het altijd als een gids of adviseur van de mens. Maar het vooruitzicht dat AI's beslissingen nemen - uitvoerende controle uitoefenen - is een andere zaak. En het is er een die nu serieus wordt vermaakt.
Een van de belangrijkste redenen waarom we AI geen uitvoerende macht zouden moeten geven, is dat het helemaal geen emotie heeft, wat cruciaal is voor de besluitvorming. Zonder emotie, empathie en een moreel kompas heb je de perfecte psychopaat. Het resulterende systeem mag dan zeer intelligent zijn, het zal de menselijke emotionele kern missen die het in staat stelt om de potentieel vernietigende emotionele gevolgen van een anderszins rationele beslissing te meten.
Wanneer AI de uitvoerende macht overneemt
Belangrijk is dat we AI niet alleen als een existentiële bedreiging moeten beschouwen als we dat zouden doen hem de leiding geven over de nucleaire arsenalen. Er is in wezen geen limiet aan het aantal controleposities van waaruit het onvoorstelbare schade kan aanrichten.
Denk bijvoorbeeld aan hoe AI nu al de informatie kan identificeren en organiseren die nodig is om je eigen serre te bouwen. Huidige iteraties van de technologie kunnen dat wel begeleidt u effectief bij elke stap van de bouw en voorkomt veel beginnersfouten. Maar in de toekomst kan een AI optreden als projectmanager en de bouw coördineren door aannemers te selecteren en ze rechtstreeks uit uw budget te betalen.
AI wordt al gebruikt in vrijwel alle domeinen van informatieverwerking en data-analyse – van het modelleren van weerpatronen naar besturen van zelfrijdende voertuigen naar hulp bij medische diagnoses. Maar hier beginnen de problemen: wanneer we AI-systemen de kritieke stap laten maken van de rol van adviseur naar die van uitvoerend manager.
In plaats van alleen maar oplossingen aan te dragen voor a de rekeningen van het bedrijf, wat als een AI directe controle zou krijgen, met de mogelijkheid om procedures te implementeren voor het innen van schulden, het uitvoeren van bankoverschrijvingen en het maximaliseren van de winst - zonder beperkingen op hoe dit te doen. Of stel je voor dat een AI-systeem niet alleen een diagnose op basis van röntgenfoto's, maar de bevoegdheid krijgen om rechtstreeks behandelingen of medicijnen voor te schrijven.
U zou zich ongemakkelijk kunnen gaan voelen bij dergelijke scenario's - dat zou ik zeker doen. De reden kan uw intuïtie zijn dat deze machines niet echt "zielen" hebben. Het zijn gewoon programma's die zijn ontworpen om grote hoeveelheden informatie verwerken om complexe gegevens te vereenvoudigen in veel eenvoudigere patronen, waardoor mensen met meer vertrouwen beslissingen kunnen nemen. Ze hebben geen - en kunnen - geen emoties hebben, die nauw verbonden zijn met biologische zintuigen en instincten.
Emoties en moraal
Emotionele intelligentie is het vermogen om onze emoties te beheersen om stress te overwinnen, ons in te leven en effectief te communiceren. Dit is waarschijnlijk belangrijker in de context van besluitvorming dan intelligentie alleen, omdat de beste beslissing niet altijd de meest rationele is.
Het is waarschijnlijk dat intelligentie, het vermogen om logisch te redeneren en te werken, kan worden ingebed in door AI aangedreven systemen, zodat ze rationele beslissingen kunnen nemen. Maar stel je voor dat je een krachtige AI met uitvoerende capaciteiten vraagt oplossen van de klimaatcrisis. Het eerste waartoe het kan worden geïnspireerd, is het drastisch verminderen van de menselijke bevolking.
Deze aftrek heeft niet veel uitleg nodig. Wij mensen zijn bijna per definitie de bron van vervuiling in elke mogelijke vorm. Bijl de mensheid en de klimaatverandering zouden worden opgelost. Het is niet de keuze waartoe menselijke besluitvormers zouden komen, mag je hopen, maar een AI zou zijn eigen oplossingen vinden - ondoordringbaar en niet gehinderd door een menselijke afkeer van het veroorzaken van schade. En als het uitvoerende macht had, zou er misschien niets zijn om het door te laten gaan.
Een AI de mogelijkheid geven om uitvoerende beslissingen te nemen in de luchtverkeersleiding kan een vergissing zijn. Gorodenkoff/Shutterstock
Sabotage scenario's
Wat dacht je van saboteren sensoren en monitoren die voedselboerderijen aansturen? Dit kan in het begin geleidelijk gebeuren, waarbij de bedieningselementen net voorbij een omslagpunt worden geduwd, zodat niemand merkt dat de gewassen worden afgekeurd. In bepaalde scenario's kan dit snel tot hongersnood leiden.
Als alternatief, wat dacht je van het wereldwijd afsluiten van de luchtverkeersleiding, of gewoon alle vliegtuigen die tegelijkertijd vliegen laten crashen? Normaal gesproken zijn er zo'n 22,000 vliegtuigen tegelijkertijd in de lucht, wat neerkomt op een mogelijk dodental van enkele miljoenen mensen.
Als je denkt dat we nog lang niet in die situatie verkeren, denk dan nog eens goed na. AI's rijden al auto's en militaire vliegtuigen vliegen, autonoom.
Of hoe zit het met het afsluiten van de toegang tot bankrekeningen in grote delen van de wereld, burgerlijke onrust veroorzaken overal tegelijk? Of afsluiten computergestuurde verwarmingssystemen midden in de winter, of airconditioningsystemen op het hoogtepunt van de zomerhitte?
Kortom, een AI-systeem hoeft niet de leiding te hebben over kernwapens om een serieuze bedreiging voor de mensheid te vormen. Maar nu we het toch over dit onderwerp hebben, als een AI-systeem krachtig en intelligent genoeg zou zijn, zou het een manier kunnen vinden om een aanval op een land met kernwapens te vervalsen, wat een door mensen geïnitieerde vergelding teweeg zou kunnen brengen.
Kan AI grote aantallen mensen doden? Het antwoord moet ja zijn, in theorie. Maar dit hangt voor een groot deel af van de beslissing van mensen om het uitvoerende controle te geven. Ik kan niets angstaanjagenders bedenken dan een AI die beslissingen kan nemen en de macht heeft om ze uit te voeren.
Over de auteur
Guillaume Thierry, hoogleraar cognitieve neurowetenschappen, Universiteit van Bangor
Dit artikel is opnieuw gepubliceerd vanaf The Conversation onder een Creative Commons-licentie. Lees de originele artikel.
