Je locatie is niet alles wat het weet. AP Photo / Mary Altaffer

Uber's bedrijfsmodel is ongelooflijk eenvoudig: het is een platform dat uitwisselingen tussen mensen mogelijk maakt. En Uber is er ongelofelijk succesvol in geweest, bijna de transactiekosten te elimineren of zaken doen in alles, van mensen in de stad verplaatsen tot het afleveren van voedsel.

Als u Uber gebruikt - of misschien zelfs als je dat niet doet - het kent een schat aan gegevens over u, waaronder uw locatie, geslacht, bestedingsgeschiedenis, contacten, batterijniveau van de telefoon en zelfs of je op weg bent naar huis vanuit een one-night-stand. Het kan snel weten of je dronken bent of niet.

Hoewel dat eng genoeg is, combineer al die gegevens met De expertise van Uber bij het analyseren van het door de lens van Gedragswetenschappen en je hebt een gevaarlijk potentieel om gebruikers te exploiteren voor winst.

Uber is bijna alleen. Ons onderzoek laat zien de grootste digitale platforms - Airbnb, Facebook, eBay en anderen - verzamelen zoveel gegevens over hoe we leven, dat ze al in staat zijn om hun gebruikers op grote schaal te manipuleren. Ze kunnen gedrag voorspellen en onze beslissingen beïnvloeden over waar te klikken, delen en uitgeven.

Hoewel de meeste platforms nog niet al deze mogelijkheden gebruiken, kan manipulatie via gedragspsychologische technieken zich rustig voordoen en weinig sporen nalaten. Als we nu geen regels voor de weg vaststellen, is het veel moeilijker om deze te detecteren en later te stoppen.

'Keuze-architectuur'

Een platform kan elke ruimte zijn die transacties tussen kopers en verkopers mogelijk maakt. Traditionele voorbeelden zijn rommelmarkten en handelsvloeren.

Een digitaal platform heeft hetzelfde doel, maar geeft de eigenaar de mogelijkheid om zijn gebruikers te "bemiddelen" terwijl ze het gebruiken - en vaak ook wanneer dat niet het geval is. Hiermee bedoelen we dat het een ongelooflijke hoeveelheid informatie over gebruikersgedrag kan observeren en leren om te perfectioneren wat gedragswetenschappers noemen "keuze architecturen, "Onopvallende ontwerpelementen bedoeld om het menselijk gedrag te beïnvloeden door de manier waarop beslissingen worden gepresenteerd.

Uber weet wanneer de batterij van je telefoon bijna leeg is. boyhey / Shutterstock.com

Bijvoorbeeld Uber heeft geëxperimenteerd met zijn stuurprogramma's om de meest effectieve strategieën te bepalen om ze zo lang mogelijk op de weg te houden. Deze strategieën omvatten het spelen van cognitieve vooroordelen, zoals verliesaversie en het overschatten van lage waarschijnlijkheidsgebeurtenissen, zelfs als een bestuurder amper genoeg geld verdient om het de moeite waard te maken. Chauffeurs eindigen als gokkers in een casino, aangespoord om ondanks de kansen nog een beetje langer te spelen.

Uber reageerde niet onmiddellijk op een verzoek om commentaar.

Airbnb experimenteert ook met zijn gebruikers. Het heeft gedragswetenschappen gebruikt gastheren te krijgen om hun tarieven te verlagen en reserveringen te accepteren zonder gasten te screenen - wat echte risico's voor hosts oplevert, vooral wanneer ze hun eigen appartement delen.

Hoewel deze voorbeelden relatief goedaardig lijken, laten ze zien hoe digitale platforms stil systemen kunnen ontwerpen om acties van gebruikers op potentieel manipulatieve manieren te leiden.

En naarmate platformen groeien, worden ze alleen maar betere keuzearchitecten. Met zijn IPO's enorme toestroom van beleggersgelden om meer gegevens te financieren en Gedragswetenschappen, Uber kan zich in een gevaarlijk onethisch gebied begeven - gemakkelijk voorstelbaar gezien zijn vroegere praktijken.

Als de app bijvoorbeeld erkent dat u dronken bent of in een buurt bent waar u zelden naartoe reist - en een die volgens de gegevens veel criminaliteit bevat - kan dit u een hoger tarief in rekening brengen, omdat u weet dat u dit waarschijnlijk niet zult weigeren.

juridische uitdagingen

En het is niet alleen maar speculatie.

In een poging om wetshandhavers te misleiden die proberen het bedrijf te onderzoeken, eigenlijk Uber een manier gevonden om overheidsregulatoren te identificeren proberen de app te gebruiken en vervolgens voorkomen dat ze ritten krijgen.

Dat is een reden voor wetgevers en regelgevers hebben besproken de moeilijke, onderling verbonden rollen van gedragswetenschappen en -technologie voor jaren. En sommige bedrijven, Uber in het bijzonder zijn onderzocht voor een groot aantal slechte zakelijke praktijken, van discriminatie naar misbruik van gebruikersgegevens.

Maar de meeste manipulatie die we hebben geïdentificeerd en waarover we ons zorgen maken, is niet uitdrukkelijk illegaal. En omdat toezichthouders vaak niet in staat zijn gelijke tred te houden met het steeds evoluerende gebruik van technologie en keuzearchitectuur, zal dat waarschijnlijk zo blijven.

Gezien het ontbreken van goed gedefinieerde en afdwingbare wettelijke vangrails, zal de neiging van platformbedrijven om gedragswetenschappen ten koste van de gebruikers te exploiteren, grotendeels ongecontroleerd blijven.

Een ethische code

Eén oplossing is naar onze mening het opstellen van een ethische code voor platformbedrijven die moet worden gevolgd. En als ze het niet gewillig adopteren, kunnen beleggers, werknemers en gebruikers erom vragen.

Sinds het midden van de 20 eeuw, schriftelijke codes van ethisch gedrag zijn een nietje geweest van Amerikaanse bedrijven. De juridische en medische beroepen heb op hen vertrouwd For millennia. En onderzoek suggereert ze zijn effectief in het stimuleren van ethisch gedrag bij bedrijven.

We hebben honderden ethische codes doorgenomen, waaronder codes die zijn gericht op technologie- en computerbedrijven. Op basis van ons onderzoek dringen we er bij digitale platforms op aan om vijf ethische richtlijnen te hanteren:

1. Alle gekozen architectuur op een platform moet volledig transparant zijn. Platforms moeten onthullen wanneer ze de tools van gedragswetenschappen gebruiken om het gedrag van gebruikers te beïnvloeden

2. Gebruikers moeten vrij en gemakkelijk keuzes op het platform kunnen maken en keuzearchitecten moeten gedragsinterventies beperken tot herinneringen of prompts die het minst schadelijk zijn voor de autonomie van gebruikers.

3. Platforms moeten voorkomen dat gebruikers worden "gestimuleerd" op een manier die onbewuste en irrationele besluitvorming op basis van impulsen en emoties uitbuit. Nieuw onderzoek laat zien dat transparante keuzearchitectuur net zo goed werkt

4. Platforms moeten de kracht die ze bezitten erkennen en erop letten de door hen gecreëerde markten niet te exploiteren, onder meer door misbruik te maken van informatieasymmetrieën tussen hen en gebruikers of tegen redelijke regels in te zetten

5. Platforms moeten het gebruik van keuzearchitectuur vermijden, waardoor gebruikers niet in hun eigen belang kunnen handelen. Als Nobelprijswinnend gedragseconoom Richard Thaler zet het, we zouden alleen voorgoed moeten 'duwen'.

Grote technologie en gedragswetenschappen zijn nu geïntegreerd in manieren die bedrijven enorm succesvol maken, van zoemende tandenborstels dat merk je tanden poetsen lijkt de moeite waard om te doen teksten gebruiken om armere moeders aan te zetten om gezondheidszorg te gebruiken.

Hoewel de resultaten ons leven aanzienlijk kunnen verbeteren, is het voor bedrijven ook eenvoudiger dan ooit om gebruikers te manipuleren om hun winstcijfers te verbeteren.

Over de Auteurs

Abbey Stemler, universitair docent bedrijfsrecht en ethiek, Indiana University; Joshua E. Perry, universitair hoofddocent bedrijfsrecht en ethiek, Indiana University, en Todd Haugh, universitair docent bedrijfsrecht en ethiek, Indiana University

Dit artikel is opnieuw gepubliceerd vanaf The Conversation onder een Creative Commons-licentie. Lees de originele artikel.

Verwante Boeken

at InnerSelf Market en Amazon