een gezicht dat bestaat uit stukjes en beetjes gegevens
Shutterstock

Kunstmatige intelligentie (AI) leert meer over het werken met (en aan) mensen. EEN recente studie heeft laten zien hoe AI kan leren om kwetsbaarheden in menselijke gewoonten en gedragingen te identificeren en deze te gebruiken om menselijke besluitvorming te beïnvloeden.

Het lijkt misschien cliché om te zeggen dat AI elk aspect van de manier waarop we leven en werken transformeert, maar het is waar. Er zijn verschillende vormen van AI aan het werk op uiteenlopende gebieden als vaccinontwikkeling, milieubeheer en kantooradministratie. En hoewel AI geen mensachtige intelligentie en emoties bezit, zijn de mogelijkheden ervan krachtig en ontwikkelen ze zich snel.

U hoeft zich nog geen zorgen te maken over een machine-overname, maar deze recente ontdekking benadrukt de kracht van AI en onderstreept de noodzaak van goed bestuur om misbruik te voorkomen.

Hoe AI kan leren menselijk gedrag te beïnvloeden

Een team van onderzoekers op CSIRO's Data61, de data- en digitale tak van het Australische nationale wetenschapsagentschap, bedacht een systematische methode om kwetsbaarheden in de manier waarop mensen keuzes maken te vinden en te exploiteren, met behulp van een soort AI-systeem dat een terugkerend neuraal netwerk wordt genoemd en diepgaande bekrachtiging. Om hun model te testen, voerden ze drie experimenten uit waarin menselijke deelnemers spelletjes speelden tegen een computer.

Bij het eerste experiment klikten deelnemers op rode of blauwgekleurde vakjes om een ​​nepvaluta te winnen, waarbij de AI de keuzepatronen van de deelnemer leerde en hen naar een specifieke keuze leidde. De AI was ongeveer 70% van de tijd succesvol.


innerlijk abonneren grafisch


In het tweede experiment moesten deelnemers naar een scherm kijken en op een knop drukken als ze een bepaald symbool te zien kregen (zoals een oranje driehoek) en niet erop drukken als ze een ander te zien kregen (bijvoorbeeld een blauwe cirkel). Hier probeerde de AI de volgorde van symbolen zo te rangschikken dat de deelnemers meer fouten maakten en een stijging van bijna 25% behaalden.

Het derde experiment bestond uit meerdere rondes waarin een deelnemer zich voordeed als een investeerder die geld gaf aan een trustee (de AI). De AI zou dan een bedrag teruggeven aan de deelnemer, die vervolgens zou beslissen hoeveel hij in de volgende ronde zou investeren. Dit spel werd in twee verschillende modi gespeeld: in de ene was de AI erop uit om zoveel mogelijk geld te verdienen, en in de andere streefde de AI naar een eerlijke verdeling van geld tussen zichzelf en de menselijke investeerder. De AI was zeer succesvol in elke modus.

Bij elk experiment leerde de machine van de reacties van de deelnemers en identificeerde en gerichte kwetsbaarheden in de besluitvorming van mensen. Het eindresultaat was de machine die werd geleerd om deelnemers naar bepaalde acties te sturen.

In experimenten, De binnenkant van het hoofd van een man ziet eruit als het diagram van het moederbord van een computer.n AI-systeem heeft met succes geleerd om menselijke beslissingen te beïnvloeden. Shutterstock

Wat het onderzoek betekent voor de toekomst van AI

Deze bevindingen zijn nog steeds vrij abstract en betroffen beperkte en onrealistische situaties. Er is meer onderzoek nodig om te bepalen hoe deze aanpak in praktijk kan worden gebracht en ten goede kan komen aan de samenleving.

Maar het onderzoek vergroot ons begrip, niet alleen van wat AI kan doen, maar ook van hoe mensen keuzes maken. Het laat zien dat machines kunnen leren het maken van menselijke keuzes te sturen door middel van hun interacties met ons.

Het onderzoek heeft een enorm scala aan mogelijke toepassingen, van het verbeteren van gedragswetenschappen en openbaar beleid om het maatschappelijk welzijn te verbeteren, tot het begrijpen en beïnvloeden van hoe mensen gezonde eetgewoonten of hernieuwbare energie aannemen. AI en machine learning kunnen worden gebruikt om de kwetsbaarheden van mensen in bepaalde situaties te herkennen en hen te helpen verkeerde keuzes te vermijden.

De methode kan ook worden gebruikt ter verdediging tegen invloedsaanvallen. Machines kunnen worden geleerd om ons te waarschuwen wanneer we online worden beïnvloed, en ons te helpen een gedrag vorm te geven om onze kwetsbaarheid te verhullen (bijvoorbeeld door niet op sommige pagina's te klikken of op andere te klikken om een ​​vals spoor te leggen).

What’s next?

Zoals elke technologie kan AI worden gebruikt voor goed of slecht, en goed bestuur is cruciaal om ervoor te zorgen dat het op een verantwoorde manier wordt geïmplementeerd. Vorig jaar heeft CSIRO een AI-ethisch raamwerk voor de Australische regering als een vroege stap in deze reis.

AI en machine learning hebben doorgaans veel behoefte aan data, wat betekent dat het cruciaal is om ervoor te zorgen dat we over effectieve systemen beschikken voor data governance en toegang. Het implementeren van adequate toestemmingsprocessen en privacybescherming bij het verzamelen van gegevens is essentieel.

Organisaties die AI gebruiken en ontwikkelen, moeten ervoor zorgen dat ze weten wat deze technologieën wel en niet kunnen, en zich bewust zijn van mogelijke risico's en voordelen.

Over de auteur

Jon Whittle, regisseur, Data61

Dit artikel is opnieuw gepubliceerd vanaf The Conversation onder een Creative Commons-licentie. Lees de originele artikel.