De nieuwe digitale kloof is tussen mensen die zich afmelden voor algoritmen en mensen die dat niet doen Weet u wat er gebeurt als u uw gegevens deelt? mtkang / shutterstock.com

Elk aspect van het leven kan worden geleid door kunstmatige intelligentie-algoritmen - van het kiezen van de route die u moet nemen voor uw woon-werkverkeer in de ochtend, tot het nemen van beslissingen over een datum, tot complexe juridische en juridische zaken, zoals voorspellend politiebeleid.

Grote technische bedrijven zoals Google en Facebook gebruiken AI om inzicht te krijgen in hun gigantische hoeveelheid gedetailleerde klantgegevens. Dit stelt hen in staat om de collectieve voorkeuren van gebruikers te gelde te maken door middel van praktijken zoals micro-targeting, een strategie die door adverteerders wordt gebruikt om zich specifiek op specifieke sets gebruikers te richten.

Tegelijkertijd vertrouwen veel mensen tegenwoordig meer op platforms en algoritmen dan hun eigen regeringen en maatschappelijke organisaties. Een oktober 2018-studie suggereerde dat mensen aantonen "waardering van algoritmen, "In de mate dat ze meer op advies zouden vertrouwen als ze denken dat het van een algoritme is dan van een mens.

In het verleden maakten technologische experts zich zorgen over a "Digitale kloof" tussen degenen die toegang hadden tot computers en internet en degenen die dat niet konden. Huishoudens met minder toegang tot digitale technologieën hebben een nadelige invloed op hun vermogen om verdien geld en verzamel vaardigheden.


innerlijk abonneren grafisch


Maar naarmate digitale apparaten zich uitbreiden, gaat de kloof niet meer alleen over toegang. Hoe gaan mensen om met informatie-overload en de overvloed aan algoritmische beslissingen die elk aspect van hun leven doordringen?

De slimmere gebruikers navigeren weg van apparaten en worden zich bewust van hoe algoritmen hun leven beïnvloeden. Ondertussen vertrouwen consumenten die minder informatie hebben, nog meer op algoritmen om hun beslissingen te sturen.

Moet u verbonden blijven - of loskoppelen? pryzmat / shutterstock.com

De geheime saus achter kunstmatige intelligentie

De belangrijkste reden voor de nieuwe digitale kloof, naar mijn mening als iemand die informatiesystemen bestudeert, is dat zo weinig mensen begrijpen hoe algoritmen werken. Voor een meerderheid van gebruikers worden algoritmen gezien als een zwarte doos.

AI-algoritmen nemen gegevens op, passen ze in een wiskundig model en geven een voorspelling, gaande van welke nummers je misschien leuk vindt naar hoeveel jaar iemand in de gevangenis zou moeten doorbrengen. Deze modellen zijn ontwikkeld en aangepast op basis van eerdere gegevens en het succes van eerdere modellen. De meeste mensen - zelfs soms ontwerpers van het algoritme zelf - weten niet echt wat er in het model omgaat.

onderzoekers waren al lang bezorgd over algoritmische rechtvaardigheid. Amazon's AI-gebaseerde wervingstool bleek bijvoorbeeld vrouwelijke kandidaten afwijzen. Het systeem van Amazon selecteerde selectief impliciet gendergerelateerde woorden - woorden die mannen eerder zullen gebruiken in alledaagse spraak, zoals 'uitgevoerd' en 'vastgelegd'.

Andere studies hebben aangetoond dat juridische algoritmen racistisch bevooroordeeld zijn en arme zwarte beklaagden langer veroordelen dan anderen.

Als onderdeel van de onlangs goedgekeurde algemene verordening gegevensbescherming in de Europese Unie hebben mensen dat wel "Een recht op uitleg" van de criteria die algoritmen gebruiken bij hun beslissingen. Deze wetgeving behandelt het proces van algoritmische besluitvorming zoals een receptenboek. Het idee is dat als je het recept begrijpt, je kunt begrijpen hoe het algoritme je leven beïnvloedt.

Ondertussen hebben sommige AI-onderzoekers gepleit voor algoritmes die dat wel zijn eerlijk, verantwoordelijk en transparantevenals interpreteerbare, wat betekent dat ze tot beslissingen moeten komen via processen die mensen kunnen begrijpen en vertrouwen.

Welk effect zal transparantie hebben? In een studie, studenten werden ingedeeld volgens een algoritme en boden verschillende niveaus van uitleg over hoe de scores van hun peers werden aangepast om tot een eindcijfer te komen. De studenten met meer transparante uitleg vertrouwden het algoritme eigenlijk minder. Dit suggereert opnieuw een digitale kloof: algoritmisch bewustzijn leidt niet tot meer vertrouwen in het systeem.

Maar transparantie is geen wondermiddel. Zelfs wanneer het algehele proces van een algoritme wordt geschetst, de details kunnen nog steeds te ingewikkeld zijn voor gebruikers om te begrijpen. Transparantie helpt alleen gebruikers die geavanceerd genoeg zijn om de complexiteit van algoritmen te begrijpen.

Bijvoorbeeld, in 2014 was Ben Bernanke, de voormalige voorzitter van de Federal Reserve, aanvankelijk ontkende een hypotheekherfinanciering door een geautomatiseerd systeem. De meeste mensen die een dergelijke hypotheekherfinanciering aanvragen, begrijpen niet hoe algoritmen hun kredietwaardigheid kunnen bepalen.

Wat zegt het algoritme vandaag? Maria Savenko / shutterstock.com

Afmelden voor het nieuwe informatie-ecosysteem

Hoewel algoritmen zo veel invloed hebben op het leven van mensen, is slechts een klein deel van de deelnemers zo geavanceerd dat ze zich er volledig in kunnen vinden hoe algoritmen hun leven beïnvloeden.

Er zijn niet veel statistieken over het aantal mensen dat zich bewust is van algoritmen. Studies hebben bewijs gevonden van algoritmische angst, leidend tot een diepe onbalans van macht tussen platforms die algoritmen en de gebruikers die ervan afhankelijk zijn.

Een onderzoek naar het gebruik van Facebook ontdekte dat wanneer deelnemers op de hoogte werden gesteld van Facebook's algoritme voor het beheren van nieuwsfeeds, ongeveer 83% van de deelnemers hun gedrag aanpaste om te proberen gebruik te maken van het algoritme, terwijl rond 10% hun gebruik van Facebook verminderde.

Een november 2018-rapport van het Pew Research Center constateerde dat een grote meerderheid van het publiek zich grote zorgen maakte over het gebruik van algoritmen voor bepaalde toepassingen. Het bleek dat 66% dacht dat het niet eerlijk zou zijn voor algoritmes om persoonlijke financiële scores te berekenen, terwijl 57% hetzelfde zei over geautomatiseerde cv-screening.

Een klein deel van de individuen heeft enige controle over de manier waarop algoritmen hun persoonlijke gegevens gebruiken. Het Hu-Manity-platform biedt bijvoorbeeld gebruikers een optie om te bepalen hoeveel van hun gegevens worden verzameld. Online encyclopedie Everipedia biedt gebruikers de mogelijkheid om een ​​belanghebbende te zijn in het proces van curatie, wat betekent dat gebruikers ook kunnen bepalen hoe informatie wordt geaggregeerd en gepresenteerd.

Een overgrote meerderheid van de platforms biedt hun eindgebruikers echter niet de flexibiliteit of het recht om te kiezen hoe het algoritme hun voorkeuren gebruikt bij het samenstellen van hun nieuwsfeed of bij het aanbevelen van deze inhoud. Als er opties zijn, weten gebruikers misschien niet van hen. Over 74% van de gebruikers van Facebook zei in een enquête dat ze dat waren niet bewust van hoe het platform hun persoonlijke interesses karakteriseert.

Naar mijn mening gebruikt de nieuwe digitale geletterdheid geen computer of internet, maar begrijpt en evalueert het de consequenties van een altijd ingeplugde levensstijl.

Deze levensstijl heeft een betekenisvolle invloed op hoe mensen omgaan met anderen; op hun vermogen om let op nieuwe informatie; en verder de complexiteit van hun besluitvormingsprocessen.

Toenemende algoritmische angst kan ook worden weerspiegeld door parallelle verschuivingen in de economie. Een kleine groep individuen vastleggen van de winsten van automatisering, terwijl veel werknemers in een precaire positie.

Afmelden bij algoritmische curatie is een luxe - en zou op een dag een symbool kunnen zijn van overvloed voor slechts een beperkt aantal. De vraag is dan wat de meetbare schade zal zijn voor degenen aan de verkeerde kant van de digitale kloof.

Over de auteur

Anjana Susarla, universitair hoofddocent informatiesystemen, Michigan State University

Dit artikel is opnieuw gepubliceerd vanaf The Conversation onder een Creative Commons-licentie. Lees de originele artikel.

Verwante Boeken

at InnerSelf Market en Amazon