Afmelden bij internetplatforms kan een opzettelijk verwarrende ervaring zijn. (Sarah b/Unsplash)

De Amerikaanse Federal Trade Commission (FTC) heeft onlangs een klacht ingediend waarin staat dat Amazon jarenlang "bewust" consumenten heeft misleid tot zich aanmelden voor Prime-abonnementen en vervolgens hun pogingen om te annuleren bemoeilijken.

De FTC beweert dat Amazon “misleid en gevangen mensen in terugkerende abonnementen zonder hun toestemming" door middel van manipulatieve, dwingende of misleidende tactieken voor het ontwerpen van interfaces, ook wel bekend als "donkere patronen".

Uit interne documenten blijkt dat Amazon het langslepende proces van het annuleren van Prime code noemde als "Ilias.” Dit verwijst, zoals de klacht aangeeft, naar het oude Griekse epos over de lange en zware Trojaanse oorlog.

Ons werk onthult hoe donkere patronen een sleutelrol spelen om gebruikers actief te houden op sociale media, ondanks hun intenties en pogingen om te vertrekken.

Donkere patronen

Iedereen die internet gebruikt, is vrijwel zeker donkere patronen tegengekomen. De term is bedacht door Harry Brignull, een user-experience consultant in het Verenigd Koninkrijk, die begon met compileren voorbeelden van problematische ontwerppraktijken in 2010. Brignull's "Roach Motel" donkere patroon beschrijft specifiek gevallen waarin online dienstverleners maken het gemakkelijk om in een situatie te komen, maar moeilijk om te vertrekken.

Moeilijk opzegbare abonnementen zijn getrokken verhoogde aandacht van toezichthouders, maar ze vertegenwoordigen niet de enige situatie waarin aanbieders van onlinediensten gebruikers er opzettelijk van weerhouden hun diensten op te zeggen of te beëindigen.

In ons onderzoek naar het ontwerpen van gebruikerservaringen, ontdekten we dat sociale-mediasites het ook routinematig moeilijk - of zelfs onmogelijk - maken voor gebruikers om hun accounts uit te schakelen.

Een fragment uit een presentatie van Harry Brignull over verschillende donkere dessinpatronen.

Veelvoorkomende donkere patronen blootleggen

De Onderzoekslaboratorium voor taal- en informatietechnologie (LiT.RL) aan de University of Western Ontario bestudeert bedrieglijke, onnauwkeurige en misleidende informatiepraktijken. We hebben gegevens verzameld van 25 sociale-mediasites, afkomstig uit een lijst met de 50 meest populaire in mei 2020.

Vervolgens hebben we inhoudsanalyse gebruikt om het proces voor het uitschakelen van accounts voor elke site scherm voor scherm te bekijken, inclusief de opties die zijn gegeven (of verborgen) voor gebruikers, en de exacte bewoordingen en afbeeldingen die worden getoond. We wilden vestigen welke strategieën werden gebruikt om gebruikers ervan te weerhouden deze sites te verlaten en hoe vaak ze voorkwamen. Ons onderzoek wordt momenteel door vakgenoten beoordeeld in een tijdschrift gewijd aan sociale media en maatschappelijke kwesties.

In totaal heeft ons onderzoek vijf belangrijke soorten donkere patronen blootgelegd - volledige obstructie, tijdelijke obstructie, verduistering, aansporingen tot heroverweging en gevolgen - en 13 subtypen, specifiek geassocieerd met het uitschakelen van sociale media-accounts.

Ontmoedigende tactieken

Net als het annuleringsproces van Amazon Prime dat wordt beschreven in de klacht van de FTC, werden deze strategieën zelden afzonderlijk toegepast: de sites in onze steekproef gebruikten gemiddeld 2.4 donkere patronen en vijf sites bevatten vijf of meer donkere patronen om accountuitschakeling te voorkomen.

Eén site bood simpelweg geen optie in de interface voor de gebruiker om zijn account uit te schakelen en waarschuwde dat verzoeken om accountuitschakeling niet in overweging zouden worden genomen door de sitebeheerders (Complete Obstruction).

Negen sites blokkeerden het pad naar accountuitschakeling door de gebruiker te belasten met onnodig werk, zoals in realtime chatten met een bedrijfsvertegenwoordiger of reageren op een e-mail om hun beslissing om te vertrekken te bevestigen (Temporary Obstruction).

Zeven sites verwarren of misleiden de gebruiker door bijvoorbeeld de knop te verbergen om het proces voor het uitschakelen van het account op een ongebruikelijke locatie te starten of door de knop zelf klein en vaag te maken (Obfuscatie).

Vijftien sites vertrouwden op meer transparante pogingen om de gebruiker te overtuigen om te heroverwegen, vaak door gebruik te maken van taal en beelden die angst, schuldgevoelens of twijfel veroorzaakten - zoals droevige gezichten, grote rode "waarschuwing!" labels en proclamaties dat "het zonde zou zijn om je te zien gaan!" (Aansporingen om te heroverwegen).

Zelfs als de gebruiker zijn account met succes kon uitschakelen, werd hij vaak geconfronteerd met kansen of druk om terug te keren (gevolgen). Twaalf sites bleven met de gebruiker communiceren via e-mail of boden accountreactivering voor een bepaalde periode aan; één site maakte reactivering mogelijk voor de exorbitant lange periode van een jaar.

Erger nog, vier sites boden accountheractivering voor onbepaalde tijd aan, wat betekent dat het account en de bijbehorende gegevens nooit permanent kunnen worden verwijderd.

Complexe motivaties

Hoewel mensen misschien een Amazon Prime-abonnement willen annuleren om ongewenste kosten te vermijden, zijn de motivaties om te stoppen met sociale media complexer. Uit onderzoek blijkt dat gebruikers rapporteer een aantal redenen om sociale media te verlaten, waaronder bezorgdheid over privacy, verslaving en verminderd welzijn. Een andere studie vond dat "minstens 35.5% van de [sociale media] pogingen om accounts te verwijderen eindigden niet in een verwijderd account."

Ons onderzoek kan mensen helpen weerstand te bieden aan de duistere patronen die hun pogingen om sociale media te verlaten op verschillende manieren dwarsbomen.

Ten eerste kan het vestigen van de aandacht op deze praktijken gebruikers informeren over gemeenschappelijke strategieën en nuttige bronnen aanbevelen. De website Verwijder mij gewoon, bijvoorbeeld, verzamelt directe links naar account-uitschakelende pagina's voor tal van online diensten.

Ten tweede, na het verhoogde toezicht dat ongewenste abonnementen hebben ondervonden van zowel de FTC als de Europese Commissie, zouden toezichthouders meer aandacht moeten besteden aan donkere patronen in de context van het uitschakelen van accounts.

Op basis van ons onderzoek stellen we voor dat sites een eenvoudig proces voor het uitschakelen van accounts in twee stappen toepassen, waarbij gebruikers op een gemakkelijk te vinden knop klikken en hun keuze voltooien via een neutraal bevestigingsscherm of door hun wachtwoord in te voeren.

Deze aanbevelingen zijn in lijn met “klik om te annuleren”, voorgesteld door de FTC in maart 2023. De voorgestelde regels voorzien in een eenvoudig annuleringsmechanisme voor abonnementen en het elimineren van verkooppraatjes of wijzigingen in het annuleringsproces, tenzij de consument er expliciet mee instemt om ze te horen.

Toezichthouders erkennen steeds vaker dat websites subtiele ontwerptactieken toepassen om gebruikers gevangen te houden in ongewenste diensten. Hoewel het een ingewikkelde taak is om de duistere patronen die online aanwezig zijn te elimineren, is de klacht van de FTC tegen Amazon een duidelijke stap in de goede richting.

Over de auteur

Dominique Kelly, Promovendus, Informatie- en Mediastudies, Western University en Victoria L.Rubin, universitair hoofddocent en directeur van het Language & Information Technology Research Lab (LiT.RL), Western University

Dit artikel is opnieuw gepubliceerd vanaf The Conversation onder een Creative Commons-licentie. Lees de originele artikel.