Waar u ook gaat online, iemand probeert uw webervaring te personaliseren. Je voorkeuren zijn vooruitgelopen, je intenties en motivaties voorspeld. De broodrooster die je kort drie maanden geleden hebt bekeken, blijft terugkeren naar je rondslenteren in aangepaste zijbalken voor reclame. En het is geen eenrichtingsverkeer. In feite kan de vrij onpersoonlijke mechanica van sommige personalisatiesystemen niet alleen van invloed zijn op hoe we de wereld zien, maar ook hoe we onszelf zien.

Het gebeurt elke dag, voor ons allemaal terwijl we online zijn. Facebook's nieuwsfeed probeert op maat gemaakte inhoud te leveren die "Meeste interesses" individuele gebruikers. Amazon's aanbevelingsengine maakt gebruik van het bijhouden van persoonlijke gegevens in combinatie met surfgedrag van andere gebruikers om te suggereren relevante producten. Google past zoekresultaten aan, en nog veel meer: ​​bijvoorbeeld personalisatie-app Google Now tracht "u de informatie te geven die u nodig hebt gedurende uw dag, voordat u erom vraagt". Dergelijke personalisatiesystemen zijn niet alleen gericht op het bieden van relevantie voor gebruikers; door gerichte marketingstrategieën genereren ze ook winst voor veel gratis te gebruiken webservices.

Misschien wel de bekendste kritiek op dit proces is de "Filterbel" theorie. Voorgesteld door internetactivist Eli Pariser, deze theorie suggereert dat personalisatie de ervaringen van webgebruikers nadelig kan beïnvloeden. In plaats van te worden blootgesteld aan universele, uiteenlopende inhoud, zijn gebruikers algoritmisch geleverd materiaal dat overeenkomt met hun reeds bestaande, zelfbevestigende gezichtspunten. De filterbubbel vormt daarom een ​​probleem voor democratische betrokkenheid: door de toegang tot uitdagende en uiteenlopende standpunten te beperken, kunnen gebruikers niet deelnemen aan een collectief en geïnformeerd debat.

{youtube}6_sim_Wc3mY{/youtube}

Pogingen om het bewijs van de filterbel te vinden, hebben gemengde resultaten opgeleverd. Sommige studies hebben aangetoond dat personalisatie inderdaad kan leiden tot een "kortzichtige" kijk op een onderwerp; andere studies hebben ontdekt dat personalisatie gebruikers in verschillende contexten daadwerkelijk kan helpen bij het ontdekken van algemene en diverse inhoud. Mijn onderzoek suggereert dat personalisatie niet alleen invloed heeft op hoe we de wereld zien, maar ook hoe we onszelf zien. Bovendien is de invloed van personalisatie op onze identiteit misschien niet te wijten aan filterbubbels van consumptie, maar omdat in sommige gevallen onlineaanpassing helemaal niet 'persoonlijk' is.

Gegevens volgen en gebruikersvoorkeuren

Om dit te begrijpen, is het nuttig om na te gaan hoe online personalisatie wordt bereikt. Hoewel personalisatiesystemen onze individuele webbewegingen volgen, zijn ze niet ontworpen om ons als individuen te 'kennen' of te identificeren. In plaats daarvan verzamelen deze systemen de realtime bewegingen en gewoonten van gebruikers in massale gegevenssets en zoeken naar patronen en correlaties tussen de bewegingen van gebruikers. De gevonden patronen en correlaties zijn dan vertaald terug in identiteitscategorieën die we misschien herkennen (zoals leeftijd, geslacht, taal en interesses) en waar we in zouden kunnen passen. Door te zoeken naar massapatronen om persoonlijk relevante content te leveren, is personalisatie in feite gebaseerd op een nogal onpersoonlijk proces.

Toen de filterbellentheorie voor het eerst ontstond in 2011, betoogde Pariser dat een van de grootste problemen met personalisatie was dat gebruikers niet wisten dat het gebeurde. Tegenwoordig, ondanks bezwaren tegen het bijhouden van gegevens, veel gebruikers weten het dat ze worden bijgehouden in ruil voor het gebruik van gratis services en dat deze tracking wordt gebruikt voor vormen van personalisatie. Veel minder duidelijk zijn echter de details van wat voor ons gepersonaliseerd wordt, hoe en wanneer.

Het 'persoonlijke' vinden

Mijn onderzoek suggereert dat sommige gebruikers aannemen dat hun ervaringen worden gepersonaliseerd in complexe graden. In een diepgaande kwalitatieve studie van gebruikers van 36-websites meldden enkele vrouwelijke gebruikers bij het zien van reclame voor producten voor gewichtsverlies op Facebook dat ze ervan uitgingen dat Facebook ze had geprofileerd als te zwaar of op fitness gericht. In feite zijn deze advertenties voor gewichtsverlies generiek geleverd aan vrouwen van 24-30. Omdat gebruikers zich echter niet bewust kunnen zijn van de onpersoonlijke aard van sommige personalisatiesystemen, kunnen dergelijke gerichte advertenties een nadelig effect hebben op hoe deze gebruikers zichzelf zien: om het eerlijk te zeggen, ze moeten te zwaar zijn, omdat Facebook hen vertelt dat ze dat wel zijn.

Het is niet alleen gerichte reclame die deze impact kan hebben: in een etnografisch en longitudinaal onderzoek uitgevoerd door een handjevol 18 en 19-jarige Google Now-gebruikers, ontdekte ik dat sommige deelnemers aannamen dat de app in staat was tot een buitengewoon complexe mate van personalisatie . Gebruikers meldden dat ze dachten dat Google Now voorradeninformatie liet zien omdat Google wist dat hun ouders aandeelhouders waren, of dat Google (ten onrechte) een 'pendelen' voorafging aan 'werken' omdat deelnemers ooit gelogen hadden dat ze de leerplichtige leeftijd hadden bereikt op hun YouTube-accounts . Het spreekt voor zich dat dit kleinschalige onderzoek niet de betrokkenheid van alle Google Now-gebruikers vertegenwoordigt, maar het suggereert wel dat voor deze personen de voorspellende beloftes van Google Now bijna onfeilbaar waren.

Eigenlijk, kritieken van gebruikersgericht ontwerp suggereren dat de realiteit van de gevolgtrekkingen van Google veel onpersoonlijker is: Google Now gaat ervan uit dat het "Ideale gebruiker" heeft - of zou op zijn minst - interesse moeten hebben in aandelen, en dat alle gebruikers werknemers zijn die pendelen. Dergelijke kritieken benadrukken dat het deze aannames zijn die grotendeels het personaliseringsraamwerk van Google structureren (bijvoorbeeld door de naleving van de app door voorgedefinieerde "kaart" -categorieën zoals "Sport", die tijdens mijn studie alleen toestonden dat gebruikers 'in plaats van Britse voetbalclubs van vrouwen' volgden '). Maar in plaats van de aannames van de app in twijfel te trekken, suggereert mijn onderzoek dat deelnemers zichzelf buiten de verwachte norm plaatsten: zij vertrouwden erop dat Google hen zou vertellen hoe hun persoonlijke ervaringen eruit zouden moeten zien.

Hoewel dit lijkt op extreme voorbeelden van onpersoonlijke algoritmische inferentie en veronderstelling van gebruikers, het feit dat we niet zeker weten wat wordt gepersonaliseerd, wanneer of hoe komen meer voorkomende problemen. Voor mij getuigen deze gebruikersverklaringen dat het afstemmen van online-inhoud implicaties heeft die verder gaan dan het feit dat het schadelijk kan zijn voor de democratie. Ze suggereren dat tenzij we beginnen te begrijpen dat personalisatie soms kan werken via zeer onpersoonlijke kaders, we misschien teveel vertrouwen stellen in personalisatie om ons te vertellen hoe we ons zouden moeten gedragen en wie we zouden moeten zijn, in plaats van andersom.

Over de auteur

Tanya Kant, docent media en culturele studies, University of Sussex

Dit artikel is oorspronkelijk gepubliceerd op The Conversation. Lees de originele artikel.

Verwante Boeken

at InnerSelf Market en Amazon