Ahmet Misirligul / Shutterstock

De korte film Slaughterbots toont een nabije toekomst waarin zwermen micro-drones duizenden mensen vermoorden vanwege hun politieke overtuiging. Uitgebracht in november 2017 door academici en activisten die waarschuwden voor de gevaren van geavanceerde kunstmatige intelligentie (AI), ging het snel viral en trok het tot op heden meer dan 3m aan. Het hielp een publiek debat over de toekomst van autonome wapens en druk uitoefenen op diplomaten die bij de Verenigde Naties bijeenkomen Verdrag inzake conventionele wapens.

Maar dit soort speculatieve sciencefiction-verhalen vertellen is niet alleen nuttig om de aandacht te trekken. De mensen die geavanceerde technologie ontwerpen en bouwen, kunnen verhalen gebruiken om de gevolgen van hun werk te overwegen en ervoor te zorgen dat het voorgoed wordt gebruikt. En we denken dat dit soort 'science fiction prototyping' of 'design fiction' zou kunnen helpen voorkomen dat menselijke vooroordelen hun weg vinden naar nieuwe technologie, waardoor de vooroordelen en onrechtvaardigheden van de samenleving verder worden versterkt.

{besloten Y=9CO6M2HsoIA}

Een vooroordeel kan leiden tot de willekeurige voorkeur van sommige categorieën (van resultaten, mensen of ideeën) boven andere. Sommige mensen kunnen bijvoorbeeld bevooroordeeld zijn tegen het aannemen van vrouwen voor leidinggevende functies, of ze zich hiervan bewust zijn of niet.

Technologie gebouwd rond gegevens die dergelijke vertekening vastleggen kan eindigen het probleem repliceren. Rekruteringssoftware die is ontworpen om de beste CV's voor een bepaalde functie te selecteren, kan bijvoorbeeld worden geprogrammeerd om te zoeken naar kenmerken die een onbewuste voorkeur voor mannen weerspiegelen. In dat geval zal het algoritme de voorkeur geven aan CV's van mannen. En dit is niet theoretisch - het gebeurde eigenlijk met Amazon.

Algoritmen ontwerpen zonder mogelijke negatieve implicaties in overweging te nemen is vergeleken aan artsen "die schrijven over de voordelen van een bepaalde behandeling en de bijwerkingen volledig negeren, hoe ernstig ze ook zijn".

Sommige technologiebedrijven en onderzoekers proberen het probleem aan te pakken. Google heeft bijvoorbeeld een set ethische principes om de ontwikkeling van AI te begeleiden. En Britse academici hebben een initiatief gelanceerd Niet gelijk dat gericht is op het bevorderen van meer rechtvaardigheid en rechtvaardigheid in het ontwerp en het gebruik van technologie.

Het probleem is dat bedrijven over het algemeen de neiging hebben alleen een positieve visie te geven op de mogelijke gevolgen van technologieën in de nabije toekomst. Auto's zonder bestuurder worden bijvoorbeeld vaak afgeschilderd als een oplossing voor al onze transportkwesties van kosten tot veiligheid en negeren de toegenomen gevaren van cyberaanvallen of het feit dat ze mensen daartoe zouden kunnen aanmoedigen loop of fiets minder.

De moeilijkheid om te begrijpen hoe digitale technologieën werken, met name die die sterk worden aangedreven door obscure algoritmen, maakt het ook moeilijker voor mensen om een ​​complex en uitgebreid beeld van de problemen te hebben. Deze situatie veroorzaakt een spanning tussen een geruststellend positief verhaal en het vage vermoeden dat vooroordelen tot op zekere hoogte zijn ingebed in de technologieën om ons heen. Hier denken we dat storytelling via design fiction kan binnenkomen.

Verhalen zijn een natuurlijke methode om na te denken over mogelijkheden en complexe situaties, en we hebben ze ons hele leven al gehoord. Science fiction kan ons helpen speculeren over de impact van technologieën in de nabije toekomst op de samenleving, zoals Slaughterbots. Dit kan zelfs kwesties van sociale rechtvaardigheid omvatten, zoals de manier waarop bepaalde groepen, zoals vluchtelingen en migranten, kunnen zijn uitgesloten digitale innovaties.

De (mogelijke) toekomst onthullen

Ontwerp fictieverhalen bieden een nieuwe manier voor ontwerpers, ingenieurs en futuristen (onder andere) om na te denken over de impact van technologie vanuit een menselijk perspectief en dit te koppelen aan mogelijke toekomstige behoeften. Met een mix van logica en verbeelding kan ontwerpfictie aspecten onthullen van hoe technologie kan worden overgenomen en gebruikt, waardoor gesprekken over toekomstige vertakkingen.

Het korte verhaal 'Crime-inkoop'Onderzoekt wat er zou kunnen gebeuren als AI crowdsourced informatie en een criminele database zou gebruiken om te voorspellen wie een moord zou plegen. De onderzoekers ontdekten dat, omdat de database vol zat met mensen in etnische minderheidsgroepen die om sociale redenen statistisch gezien vaker recidiveerden, het "crime-sourcing" -model waarschijnlijker was ten onrechte verdenken minderheden dan blanke mensen.

Je hoeft geen getalenteerde schrijver te zijn of een gelikte film te maken om designfictie te produceren. Brainstormactiviteiten met kaarten en storyboards zijn gebruikt om ontwerpfictie te ontwikkelen en het verhaalproces te helpen ontwikkelen. Door workshops die dit soort tools gebruikelijker maken te gebruiken, zouden meer ingenieurs, ondernemers en beleidsmakers deze beoordelingsmethode kunnen gebruiken. En het resulterende werk openbaar maken zou helpen om mogelijke vooroordelen in technologieën bloot te leggen voordat ze de samenleving beïnvloeden.

Het aanmoedigen van ontwerpers om op deze manier meer verhalen te maken en te delen, zou zorgen voor het verhaal dat ten grondslag ligt aan nieuwe technologie, niet alleen een positief beeld zou geven, noch een extreem negatief of dystopisch beeld. In plaats daarvan zullen mensen beide aspecten van wat er om ons heen gebeurt, kunnen waarderen.

Over de auteurs

Alessio Malizia, Hoogleraar User Experience Design, Universiteit van Hertfordshire en Silvio Carta, Hoofd van kunst en design en voorzitter van de Design Research Group, Universiteit van Hertfordshire

Dit artikel is opnieuw gepubliceerd vanaf The Conversation onder een Creative Commons-licentie. Lees de originele artikel.