Toekomstige historici beschouwen 2023 wellicht als een mijlpaal in de opkomst van kunstmatige intelligentie (AI). Maar of dat de toekomst zal uitwijzen utopische, apocalyptische or ergens tussenin is een gok van iemand.

In februari vestigde ChatGPT het record als de snelste app om te bereiken 100 miljoen gebruikers. Het werd gevolgd door vergelijkbare ‘groottalige’ AI-modellen van Google, Amazon, Meta en andere grote technologiebedrijven, die gezamenlijk klaar lijken te zijn om het onderwijs, de gezondheidszorg en vele andere kennisintensieve gebieden te transformeren.

Het potentieel voor schade van AI werd in mei echter onderstreept door een onheilspellende uitspraak ondertekend door vooraanstaande onderzoekers:

Het verkleinen van het risico van uitsterven door AI zou een wereldwijde prioriteit moeten zijn, naast andere risico's op maatschappelijke schaal, zoals pandemieën en een nucleaire oorlog.

In november hebben 27 landen (waaronder Groot-Brittannië, de VS, India, China en de Europese Unie) als reactie op de groeiende bezorgdheid over het AI-risico hun samenwerking toegezegd tijdens een eerste AI Safety Summit in Bletchley Park in Engeland, om de veilige ontwikkeling van AI te garanderen. voor de voordeel van iedereen.

Om dit te bereiken richten onderzoekers zich op AI-uitlijning – dat wil zeggen, hoe ervoor te zorgen dat AI-modellen consistent zijn met menselijke waarden, voorkeuren en doelen. Maar er is een probleem: AI’s zogenaamde ‘duister geheim”: grootschalige modellen zijn zo complex dat ze als een zwarte doos lijken, die voor niemand volledig te begrijpen is.

Het black box-probleem van AI

Hoewel de transparantie en verklaarbaarheid van AI-systemen dat wel zijn belangrijke onderzoeksdoelenHet lijkt onwaarschijnlijk dat dergelijke inspanningen het hectische innovatietempo kunnen bijhouden.

De black box-metafoor verklaart waarom de opvattingen van mensen over AI overal op de kaart voorkomen. Voorspellingen variëren van utopie tot uitsterven, en velen geloven zelfs dat er binnenkort een kunstmatige algemene intelligentie (AGI) zal komen gevoel bereiken.

Maar deze onzekerheid verergert het probleem. De afstemming op AI moet tweerichtingsverkeer zijn: we moeten er niet alleen voor zorgen dat AI-modellen consistent zijn met de menselijke bedoelingen, maar ook dat onze opvattingen over AI accuraat zijn.

Dit komt omdat we opmerkelijk bedreven zijn in het creëren van een toekomst die in overeenstemming is met deze overtuigingen, zelfs als we ons daar niet van bewust zijn.

Zogenaamd "verwachtingseffecten', of self-fulfilling prophecies, zijn algemeen bekend in de psychologie. En onderzoek heeft aangetoond dat het manipuleren van de overtuigingen van gebruikers niet alleen invloed heeft op de manier waarop zij geloven interactie met AI, maar hoe AI past zich aan de gebruiker aan.

Met andere woorden: de manier waarop onze overtuigingen (bewust of onbewust) AI beïnvloeden, kan de kans op welke uitkomst dan ook vergroten, inclusief catastrofale uitkomsten.

AI, berekening, logica en rekenkunde

We moeten dieper graven om de basis van AI te begrijpen – zoals Alice in Wonderland: ga het konijnenhol in en kijk waar het ons naartoe brengt.

Ten eerste: wat is AI? Het draait op computers, en dat geldt ook voor geautomatiseerde berekeningen. Vanaf zijn oorsprong als de “perceptron” – een kunstmatig neuron dat in 1943 wiskundig werd gedefinieerd door een neurofysioloog Warren McCulloch en logicus Walter Pitts – AI is verweven met de cognitieve wetenschappen, neurowetenschappen en informatica.

Deze convergentie van deskundigen, hersenen en machines heeft geleid tot de wijdverbreide overtuiging dat, omdat AI door machines wordt berekend, de natuurlijke intelligentie (de geest) door de hersenen moet worden berekend.

Maar wat is rekenen? Aan het einde van de 19e eeuw, wiskundigen Richard Dedekind en Giuseppe peano stelde een reeks axioma's voor die gedefinieerde rekenkunde in termen van logicaen inspireerde pogingen om alle wiskunde op een veilige basis te baseren formele basis.

Hoewel de logicus Kurt Godel bleek later dat dit doel was onhaalbaar, was zijn werk het startpunt voor wiskundige (en codebreker) Alan Turing. Zijn "Turingmachine”, een abstract apparaat dat daartoe in staat is universele berekening, is de basis van de informatica.

Diepe structuur van perceptie

Berekeningen zijn dus gebaseerd op wiskundige ideeën die teruggaan op pogingen om rekenkunde in de logica te definiëren. Maar onze kennis van rekenen bestaat vóór de logica. Als we de basis van AI willen begrijpen, moeten we verder gaan en ons afvragen waar de rekenkunde zelf vandaan komt.

Mijn collega’s en ik hebben onlangs laten zien dat rekenen gebaseerd is op de ‘diepe structuur'van perceptie. Deze structuur is als een gekleurde bril die onze waarneming op bepaalde manieren vormgeeft, zodat onze ervaring van de wereld geordend en beheersbaar wordt.

Rekenkunde bestaat uit een reeks elementen (getallen) en bewerkingen (optellen, vermenigvuldigen) die paren elementen combineren om een ​​ander element te geven. We vroegen ons af: waarom zijn van alle mogelijkheden getallen de elementen, en optelling en vermenigvuldiging de bewerkingen?

Wij lieten zien door wiskundig bewijs dat toen werd aangenomen dat de diepe structuur van de waarneming de mogelijkheden beperkte, rekenkunde het resultaat was. Met andere woorden: wanneer onze geest de abstracte wereld door dezelfde ‘gekleurde bril’ bekijkt die onze ervaring van de fysieke wereld vormgeeft, ‘ziet’ hij getallen en rekenkunde.

Omdat rekenkunde de basis is voor wiskunde, impliceert dit dat wiskunde een weerspiegeling is van de geest – een uitdrukking in symbolen van de fundamentele aard en creativiteit ervan.

Hoewel de diepe structuur van de waarneming wordt gedeeld met andere dieren en dus een product is van de evolutie, hebben alleen mensen de wiskunde uitgevonden. Het is onze meest intieme creatie – en door de ontwikkeling van AI mogelijk te maken, misschien wel onze meest consequente.

Een Copernicaanse revolutie van de geest

Onze rekening van oorsprong van de rekenkunde komt overeen met de opvattingen van de 18e-eeuwse filosoof Immanuel Kant. Volgens hem is onze kennis van de wereld gestructureerd door ‘pure intuïties’ van ruimte en tijd die bestaan ​​vóór de zintuiglijke ervaring – analoog aan de gekleurde bril die we nooit kunnen afzetten.

Kant claimde de zijne filosofie was een “Copernicaanse revolutie van de geest”. Net zoals astronomen uit de oudheid geloofden dat de zon om de aarde draaide omdat ze zich niet bewust waren van de beweging van de aarde, betoogde Kant, zo betoogden filosofen die geloofden dat alle kennis voortkomt uit zin ervaring (John Locke en David Hume bijvoorbeeld) hebben over het hoofd gezien hoe de geest de waarneming vormgeeft.

Hoewel Kants opvattingen werden gevormd door de natuurwetenschappen van zijn tijd, hebben ze bewezen invloedrijk in de hedendaagse psychologie.

De erkenning dat rekenen een natuurlijk gevolg van onze waarneming, en dus biologisch gebaseerd, suggereert een soortgelijke Kantiaanse verschuiving in ons begrip van berekeningen.

Berekening vindt niet ‘buiten’ of gescheiden van ons plaats in een abstract domein van wiskundige waarheid, maar is inherent aan de aard van onze geest. De geest is meer dan rekenen; het brein is geen computer. Integendeel, berekeningen – de basis voor AI – zijn, net als wiskunde, een symbolische uitdrukking van de aard en creativiteit van de geest.

Prometheus vuur

Wat zijn de implicaties voor AI? Ten eerste is AI geen geest en zal het nooit bewust worden. Het idee dat we onze biologische aard kunnen overstijgen en onsterfelijkheid kunnen bereiken door onze geest naar de cloud te uploaden, is alleen maar fantasie.

Maar als de principes van de geest waarop AI is gebaseerd door de hele mensheid (en waarschijnlijk ook door andere levende wezens) worden gedeeld, zou het mogelijk kunnen zijn om de beperkingen van onze individuele geest te overstijgen.

Omdat berekeningen universeel zijn, zijn we vrij om elke gewenste uitkomst te simuleren en te creëren in onze steeds meer verbonden virtuele en fysieke werelden. Op deze manier is AI echt van ons Prometheus vuur, een geschenk aan de mensheid gestolen van de goden zoals in Griekse mythologie.

Als mondiale beschaving staan ​​we waarschijnlijk op een keerpunt. AI zal niet bewust worden en besluiten dat wel te doen dood ons allemaal. Maar we zijn heel goed in staat om onszelf ermee te ‘apocalypseren’ – verwachting kan werkelijkheid creëren.

Inspanningen om de afstemming, veiligheid en beveiliging van AI te garanderen zijn van cruciaal belang, maar zijn mogelijk niet voldoende als het ons aan bewustzijn en collectieve wijsheid ontbreekt. Net als Alice moeten we ontwaken uit de droom en de realiteit en kracht van onze geest herkennen.

Randolph Grace, Hoogleraar psychologie, Universiteit van Canterbury

Dit artikel is opnieuw gepubliceerd vanaf The Conversation onder een Creative Commons-licentie. Lees de originele artikel.