Artem Samokhvalov/Shutterstock

Heeft u zich aangemeld voor een gratis proefperiode voor een online dienst en besloten dat dit niets voor u is, maar moet u er maanden (of zelfs jaren) later toch voor betalen? Of heb je geprobeerd een abonnement op te zeggen en merkte je dat je het tijdens het moeizame proces opgaf? Dan is de kans groot dat u een “donker patroon” bent tegengekomen.

Donkere patronen zijn slimme trucs die in apps en websites zijn ingebouwd om u aan te moedigen dingen te doen die u misschien niet per se wilt doen. Ze maken het bijvoorbeeld gemakkelijk om “alle” trackingcookies te accepteren en snel akkoord te gaan met de algemene voorwaarden terwijl u haast maakt met uw aankoop.

Ze maken het ook gemakkelijk om u aan te melden voor een dienst, maar het is tijdrovend en frustrerend om te vertrekken. En ons recente onderzoek laat zien hoe bedrijven er meestal profijt van hebben, ten koste van de consumenten.

Deze onevenwichtigheid is niet onopgemerkt gebleven door de toezichthouders. Dat meent de Amerikaanse Federal Trade Commission (FTC), die consumenten wil beschermen tegen oneerlijke handelspraktijken een toenemend aantal van de bedrijven “gebruikt digitale duistere patronen om mensen te misleiden om producten te kopen en hun persoonlijke informatie weg te geven”.

De FTC is momenteel bijvoorbeeld Amazon onderzoeken over het vermeende gebruik van donkere patronen om klanten in te schrijven voor de Prime-service, terwijl het voor hen moeilijk wordt om te vertrekken. Ons onderzoek ondersteunt de observatie van het agentschap dat “Consumenten die Prime probeerden te annuleren, werden geconfronteerd met meerdere stappen om de taak van het annuleren daadwerkelijk te volbrengen”.

In een verklaring op haar websiteAmazon zei dat de rechtszaak blijk gaf van het “misverstand van de FTC over retail”. Het ook zei: “We maken het voor klanten duidelijk en eenvoudig om zich zowel aan te melden als hun Prime-lidmaatschap op te zeggen.”

De FTC wel niet de enige met zijn zorgen over donkere patronen. De EU onlangs wetgeving aangenomen Die kan worden gebruikt om bedrijven die duistere patronen hanteren te beboeten, en de Britse Financial Conduct Authority heeft dat ook gedaan regels gelanceerd ontworpen om consumenten te beschermen tegen duistere patronen in de financiële dienstverlening.

Ondertussen heeft de Britse Competition and Markets Authority (CMA) onlangs haar eerste onderzoek naar donkere patronen aangekondigd open brief het waarschuwt het bedrijfsleven voor wat het ‘schadelijke online keuze-architecturen’ noemt.

‘Keuzearchitectuur’ is een term die is bedacht door de auteurs van de extreme populair en invloedrijk boek Duwtje. Ze omschrijven het als “het ontwerp van verschillende manieren waarop keuzes aan besluitvormers kunnen worden gepresenteerd”.

Een ‘keuzearchitect’ zou een consument bijvoorbeeld kunnen helpen door de hoeveelheid irrelevante informatie die hem wordt gepresenteerd te verminderen, waardoor er ruimte ontstaat voor een weloverwogen, gerichte beslissing. Maar de meeste donkere patronen werken door het manipuleren van keuzearchitectuur.

In plaats van consumenten te helpen, is de architectuur ontworpen om keuze te belemmeren. Dus in plaats van irrelevant materiaal te verwijderen, kan het een gebruiker bombarderen met overmatige informatie, extra stappen en afleidingen om te voorkomen dat hij of zij een abonnement opzegt.

Aangezien de CMA-aantekeningenIn de online wereld van vandaag kunnen bedrijven “elk aspect van hun interacties met ons ontwerpen en controleren in een mate die ongekend is in traditionele fysieke bedrijven”.

Uit onderzoek blijkt dat de CMA gelijk heeft, en dat online bedrijven daartoe vrijwel onbeperkte mogelijkheden hebben hun interacties verfijnen met consumenten. Online ervaringen wel steeds persoonlijkeren technisch onderlegde bedrijven hebben meer manieren dan ooit om met ons in contact te komen en ons te manipuleren.

Het licht zien

En terwijl toezichthouders de neiging hebben zich te concentreren op duistere patronen als een manier om consumenten afstand te doen doen van hun geld of gegevens, doen anderen dat wel bezorgdheid geuit over mogelijke psychologische schade en een verlies van vrijheid door gebruikers van onlinediensten.

Met deze risico's in het achterhoofd hebben we inzichten uit de gedragswetenschappen gebruikt om enkele van de processen te identificeren die deze risico's met zich meebrengen laat donkere patronen werken en creëerde een eenvoudig raamwerk om de meest doordringende strategieën te beschrijven. ‘Omwegen’ is bijvoorbeeld de naam die we hebben gegeven aan de middelen die worden gebruikt om ons te vertragen en af ​​te leiden, zoals het vereisen van een buitensporig aantal handelingen om een ​​abonnement op te zeggen.

“Rotondes” proberen ons te vervelen of te frustreren tot het punt waarop we het opgeven, zoals het klikken op link na link, waarbij gebruikers in cirkels rondgaan. En ‘snelkoppelingen’ bieden een onmiddellijk gemakkelijke – maar mogelijk kostbare – keuze, zoals de ‘accepteer alles’-knoppen op cookieprompts of verzoeken om de algemene voorwaarden te accepteren. In een studieEen bijzonder lang document met algemene voorwaarden zorgde ervoor dat 98% van de deelnemers ermee instemde hun eerstgeboren kind als betaling af te staan.

Ons raamwerk van voorwaarden is ontworpen met het oog op eenvoud: om consumenten in staat te stellen zelf donkere patronen te ontdekken en om toezichthouders te helpen ingrijpen. Want de vrijheid om accounts voor een dienst aan te maken en te verwijderen is een fundamentele stap in het navigeren door de online wereld.

En het zou niet drastisch eenvoudiger moeten zijn om een ​​sociale media-account aan te maken dan om het te verwijderen. Er is geen goede reden om omwegen, rotondes en sluiproutes in de weg te staan. Wij zijn van mening dat het net zo eenvoudig (zo niet eenvoudiger) moet zijn om een ​​account te verwijderen als om er een aan te maken. De meeste door ons onderzochte diensten voldeden niet aan deze norm.

Zonder terugdringing van de consument en zonder toezicht zal het voor gewone mensen waarschijnlijk nog moeilijker worden om in de onlinewereld te navigeren. Aan de positieve kant lijken de toezichthouders steeds meer op te treden en ontstaan ​​er nieuwe instrumenten om consumenten tegen duistere patronen te beschermen. Er kan toch licht zijn aan het einde van deze manipulatieve tunnel.

Richard Whittel, Universitair fellow in AI en menselijke besluitvorming, Universiteit van Salford en Stuart molens, Universitair docent economie, Universiteit van Leeds

Dit artikel is opnieuw gepubliceerd vanaf The Conversation onder een Creative Commons-licentie. Lees de originele artikel.

boeken_techno;ogy