Omdat Facebook-gebruikers over de hele wereld dit begrijpen, kunnen sommige van hun favoriete technologieën tegen hen worden gebruikt. Het is niet alleen het schandaal over psychologisch profileringsbedrijf Cambridge Analytica krijgt toegang gegevens van tientallen miljoenen Facebook-profielen. People's filter bubbels zijn gevuld met zorgvuldig op maat gemaakte informatie - en verkeerde informatie - het veranderen van hun gedrag en denken, en zelfs hun stemmen.

Mensen worstelen om te begrijpen, zowel individueel als als een samenleving als geheel hoe hun newsfeeds zich tegen hen keerden. Ze realiseren zich nu precies hoe zorgvuldig gecontroleerde Facebook-feeds zijn, met advertenties op maat. Die reeks problemen verbleekt echter in vergelijking met die van de volgende technologische revolutie, die al aan de gang is: virtual reality.

Aan de ene kant hebben virtuele werelden bijna onbeperkte mogelijkheden. VR-games kunnen drugsverslaving behandelen en misschien helpen oplossen van de opioïde epidemie. Gevangenisbemiddelaars kunnen VR-simulaties gebruiken om bereid je voor op het leven na hun vrijlating. Mensen racen om deel te nemen aan deze meeslepende ervaringen, die het potentieel hebben om psychologisch sterker te zijn dan enige andere technologie tot nu toe: de eerste moderne apparatuur die de mogelijkheid biedt uitverkocht in 14 minuten.

In deze nieuwe werelden wordt elk blad, elke steen op de virtuele grond en elk gesprek zorgvuldig opgebouwd. In ons onderzoek naar de nieuwe definitie van ethiek in virtual reality, hebben mijn collega's en ik de ontwikkelaars en vroege gebruikers van virtual reality geïnterviewd om te begrijpen welke risico's er komen en hoe we deze kunnen verminderen.

Intensiteit gaat omhoog

"VR is een zeer persoonlijke, intieme situatie. Als je een VR-headset draagt ​​... je gelooft het echt, het is echt meeslepend, "zegt een van de ontwikkelaars met wie we hebben gesproken. Als iemand je schaadt in VR, je gaat het voelenen als iemand je manipuleert om iets te geloven, blijft het hangen.

Deze onderdompeling is wat gebruikers willen: "VR gaat echt over ondergedompeld zijn ... In tegenstelling tot een tv waar ik constant kan worden afgeleid," vertelde een gebruiker ons. Die meeslependheid geeft VR ongekende kracht: "echt, wat VR hier probeert te doen, is een dubbele realiteit waar het je geest in de maling neemt."

Deze trucs kunnen plezierig zijn - mensen toestaan vliegende helikopters of reis terug naar het oude Egypte. Ze kunnen nuttig zijn, aanbieden pijnbeheersing of behandeling voor psychologische aandoeningen.

Maar ze kunnen ook kwaadaardig zijn. Zelfs een gemeenschappelijke grap dat vrienden online op elkaar spelen - inloggen en berichten als elkaar - kan een heel nieuwe dimensie aannemen. Eén VR-gebruiker legt uit: "Iemand kan een VR-head-unit plaatsen en een virtuele wereld binnen gaan, uitgaande van je identiteit. Ik denk dat identiteitsdiefstal, als VR mainstream wordt, ongebreideld zal worden. "

Gegevens zullen nog persoonlijker zijn

VR kan gegevens verzamelen op een geheel nieuw niveau. Schijnbaar onschadelijke infraroodsensoren die zijn ontworpen om te helpen bij bewegingsziekte en uitlijning kunnen bijna perfecte afbeeldingen van de werkelijke omgeving van gebruikers vastleggen.

Verder zijn de gegevens en interacties die VR de kracht geven om te behandelen en te diagnosticeren fysieke en mentale gezondheidstoestand kan worden gebruikt om ervaringen en informatie hyper-personaliseren aan de precieze kwetsbaarheden van individuele gebruikers.

Gecombineerd presenteren de intensiteit van virtual reality-ervaringen en de nog meer persoonlijke gegevens die zij verzamelen het spook van nepnieuws dat veel krachtiger is dan tekstartikelen en memes. Integendeel, meeslepende, gepersonaliseerde ervaringen kunnen mensen overtuigen van volledig alternatieve realiteiten, waar ze volkomen vatbaar voor zijn. Dergelijke meeslepende VR-advertenties komen aan de horizon zo vroeg dit jaar.

Bouwen aan een virtuele toekomst

Een persoon die de virtuele realiteit gebruikt, wordt, vaak gewillig, in veel grotere mate gecontroleerd dan ooit tevoren mogelijk was. Alles wat een persoon ziet en hoort - en misschien zelfs voelt of ruikt - is volledig gecreëerd door een andere persoon. Die overgave brengt zowel belofte als gevaar met zich mee. Misschien kunnen mensen in zorgvuldig opgebouwde virtuele werelden problemen oplossen die ons in werkelijkheid zijn ontgaan. Maar deze virtuele werelden zullen worden gebouwd in een echte wereld die niet kan worden genegeerd.

Terwijl technologen en gebruikers het kwaadaardige, manipulatieve verleden opruimen, zullen ze veel verder moeten gaan social media gezonder maken. Net zo zorgvuldig als ontwikkelaars virtuele werelden zelf bouwen, moet de samenleving als geheel opzettelijk en nauwgezet de cultuur construeren waarin deze technologieën bestaan.

In veel gevallen zijn ontwikkelaars de eerste bondgenoten in deze strijd. Uit ons onderzoek bleek dat VR-ontwikkelaars zich meer zorgen maakten over het welzijn van hun gebruikers dan de gebruikers zelf. Toch geeft een ontwikkelaar toe dat "het feit is ... ik kan op mijn vingers rekenen hoeveel ervaren ontwikkelaars ik heb ontmoet." Zelfs experts zijn pas begonnen te verkennen ethiek, veiligheid en privacy in virtual reality-scenario's.

De ontwikkelaars met wie we spraken, spraken de wens uit dat er richtlijnen zouden zijn om de grenzen te verleggen en om gevaarlijke misbruiken van hun platformen te voorkomen. Als een eerste stap, wij uitgenodigde VR-ontwikkelaars en -gebruikers van negen online communities om met ons samen te werken om een ​​set richtlijnen voor VR-ethiek te maken. Ze hebben suggesties gedaan voor inclusiviteit, gebruikers beschermen tegen manipulatieve aanvallers en limieten voor het verzamelen van gegevens.

Zoals het debacle met Facebook en Cambridge Analytica laat zien, volgen mensen echter niet altijd richtlijnen of zelfs niet de regels en het beleid van platforms - en de effecten kunnen des te erger zijn in deze nieuwe VR-wereld. Maar ons aanvankelijke succes bij het bereiken van overeenstemming over VR-richtlijnen dient als een herinnering dat mensen verder kunnen gaan dan rekening te houden met de technologieën die anderen creëren: we kunnen samenwerken om gunstige technologieën te creëren die we willen.

Over de auteur

Elissa Redmiles, Ph.D. Student in computerwetenschappen, University of Maryland

Dit artikel is oorspronkelijk gepubliceerd op The Conversation. Lees de originele artikel.

Verwante Boeken

at InnerSelf Market en Amazon