Informatie is een waardevol goed. En dankzij de technologie is dat zo miljoenen terabytes ervan online.

Hulpmiddelen voor kunstmatige intelligentie (AI), zoals ChatGPT, beheren deze informatie nu namens ons: ze worden verzameld, samengevat en aan ons gepresenteerd.

Maar dit ‘uitbesteden’ van informatiebeheer aan AI – hoe handig het ook is – heeft gevolgen. Het kan niet alleen invloed uitoefenen wat denken we, maar potentieel ook hoe we denken.

Wat gebeurt er in een wereld waarin AI-algoritmen beslissen welke informatie wordt bestendigd en wat buiten de boot blijft?

De opkomst van gepersonaliseerde AI

Generatieve AI-tools zijn gebouwd op modellen die zijn getraind op honderden gigabytes aan data reeds bestaande gegevens. Uit deze gegevens leren ze hoe ze zelfstandig tekst, afbeeldingen, audio- en video-inhoud kunnen creëren, en kunnen ze reageren op vragen van gebruikers door het ‘meest waarschijnlijke’ antwoord samen te voegen.

ChatGPT wordt gebruikt door miljoenen mensen, ondanks dat het minder dan een jaar geleden publiekelijk werd vrijgegeven. In juni werd de toevoeging van aangepaste reacties maakte de toch al indrukwekkende chatbot nog nuttiger. Met deze functie kunnen gebruikers aangepaste instructies opslaan waarin wordt uitgelegd waarvoor ze de bot gebruiken en hoe ze willen dat deze reageert.

Dit is een van de vele voorbeelden van ‘gepersonaliseerde AI’: een categorie AI-tools die inhoud genereren die past bij de specifieke behoeften en voorkeuren van de gebruiker.

Een ander voorbeeld is het onlangs gelanceerde Meta virtuele assistent, Meta-AI. Deze chatbot kan gesprekken voeren, afbeeldingen genereren en taken uitvoeren op de platforms van Meta, waaronder WhatsApp, Messenger en Instagram.

Onderzoeker op het gebied van kunstmatige intelligentie en mede-oprichter van DeepMind, Mustafa Suleyman, beschrijft gepersonaliseerde AI is meer een relatie dan een technologie:

Het is een vriend. […] Het zal echt altijd aanwezig en naast je zijn, bij je wonen – eigenlijk in je team. Ik zie het graag alsof je een geweldige coach aan je zijde hebt.

Maar deze technologieën zijn ook controversieel en er zijn zorgen over geuit gegevenseigendom, vooringenomenheid en desinformatie.

Technologiebedrijven proberen manieren te vinden om deze problemen te bestrijden. Google heeft bijvoorbeeld bronlinks toegevoegd aan door AI gegenereerde zoeksamenvattingen die door Google zijn geproduceerd Zoek generatieve ervaring (SGE)-tool, die eerder dit jaar onder vuur kwam te liggen offeren onnauwkeurige en problematische antwoorden.

Technologie heeft ons denken al veranderd

Hoe zullen generatieve AI-tools – en vooral de tools die voor ons gepersonaliseerd zijn – de manier waarop we denken veranderen?

Om dit te begrijpen, gaan we terug naar het begin van de jaren negentig, toen internet voor het eerst in ons leven verscheen. Mensen hadden plotseling toegang tot informatie over vrijwel alles, of dat nu over bankieren, bakken, lesgeven of reizen ging.

Bijna dertig jaar later hebben onderzoeken aangetoond hoe onze verbondenheid met deze mondiale ‘bijenkorfgeest’ onze cognitie, ons geheugen en onze creativiteit heeft veranderd.

Bijvoorbeeld, onmiddellijke toegang hebben tot het equivalent van 305.5 miljard pagina's aan informatie heeft het bereik van mensen vergroot meta-kennis – dat wil zeggen: hun kennis over kennis. Een gevolg hiervan is de “Google-effect”: een fenomeen waarbij online zoeken ons vermogen om informatie te vinden vergroot, maar ons geheugen verkleint over wat die informatie was.

Aan de ene kant is aangetoond dat het overbrengen van ons denken naar zoekmachines onze mentale reserves vrijmaakt probleemoplossend vermogen en creatief denken. Aan de andere kant wordt het online ophalen van informatie in verband gebracht met een toename afleidbaarheid en afhankelijkheid.

Uit onderzoek blijkt ook dat online zoeken – ongeacht de kwantiteit of kwaliteit van de gevonden informatie – onze cognitieve zelfwaardering. Met andere woorden, het vergroot ons geloof in onze eigen ‘slimheid’.

Koppel dit aan het feit dat het in twijfel trekken van informatie is lastig – en dat hoe meer we onze zoekmachine vertrouwen, hoe minder we kritisch zijn bezig zijn met de resultaten ervan – en u begrijpt waarom toegang tot ongekende hoeveelheden informatie ons niet noodzakelijkerwijs wijzer maakt.

Moeten we ons denken ‘uitbesteden’?

De huidige generatieve AI-tools gaan veel verder dan alleen het presenteren van zoekresultaten. Ze lokaliseren de informatie voor ons, evalueren deze, synthetiseren deze en presenteren deze aan ons terug.

Wat kunnen de gevolgen hiervan zijn? Zonder aan te dringen op door mensen geleide kwaliteitscontrole zijn de vooruitzichten niet veelbelovend.

Het vermogen van generatieve AI om reacties te produceren die vertrouwd, objectief en boeiend aanvoelen, betekent dat het ons kwetsbaarder maakt cognitieve vooroordelen.

De automatiseringsvoorkeurDit is bijvoorbeeld de menselijke neiging om de integriteit van machinaal verkregen informatie te overschatten. En de louter blootstelling Het effect is dat we eerder geneigd zijn informatie te vertrouwen die als vertrouwd of persoonlijk wordt gepresenteerd.

Onderzoek op sociale media kan ons helpen de impact van dergelijke vooroordelen te begrijpen. In een onderzoek uit 2016 rapporteerden Facebook-gebruikers je meer ‘op de hoogte’ voelen gebaseerd op de hoeveelheid nieuwsinhoud die online wordt geplaatst – en niet op hoeveel ervan ze daadwerkelijk lezen.

Wij weten ook dat “filter bubbels” gemaakt door algoritmen voor sociale media – waarbij onze feeds worden gefilterd op basis van onze interesses – beperken de diversiteit van de inhoud waaraan we worden blootgesteld.

Er is aangetoond dat dit proces van informatievernauwing toeneemt ideologische polarisatie door de neiging van mensen om alternatieve perspectieven te overwegen te verminderen. Er is ook aangetoond dat het de kans vergroot dat we eraan worden blootgesteld nep-nieuws.

AI gebruiken om wijzer te worden, en niet om dom te worden

Generatieve AI is zonder twijfel een revolutionaire kracht met het potentieel om grote dingen voor de samenleving te doen. Het zou ons onderwijssysteem kunnen hervormen door het verstrekken van onderwijs gepersonaliseerde inhoud, verander onze werkmethoden door te bespoedigen schrijven en informatieanalyse, en verleg de grenzen van wetenschappelijke ontdekking.

Het heeft zelfs het potentieel om onze relaties positief te veranderen door ons te helpen communiceren en verbinding te maken met anderen en kan soms functioneren als een vorm van synthetisch gezelschap.

Maar als onze enige manier om de toekomst te beoordelen is door naar het verleden te kijken, is dit misschien het moment om na te denken over hoe zowel het internet als de sociale media onze cognitie hebben veranderd, en enkele dingen toe te passen voorzorgsmaatregelen. Ontwikkelen AI-geletterdheid is een goed beginpunt, net als het ontwerpen van AI-tools die de menselijke autonomie en kritisch denken aanmoedigen.

Uiteindelijk zullen we allebei de onze moeten begrijpen en de sterke en zwakke punten van AI om ervoor te zorgen dat deze ‘denkende’ metgezellen ons helpen de toekomst te creëren die we willen – en niet degene die toevallig bovenaan de lijst staat.

Sarah Vivienne Bentley, Onderzoekswetenschapper, Verantwoorde Innovatie, Data61, CSIRO; Claire Mason, hoofdonderzoeker, CSIRO en Einat Grimberg, Postdoctoraal onderzoeker in technologie en sociale wetenschappen, CSIRO

Dit artikel is opnieuw gepubliceerd vanaf The Conversation onder een Creative Commons-licentie. Lees de originele artikel.