Beeldstroom / Shutterstock

Bijna niet tevreden met monitoring alles wat je online doet, Facebook wil nu ook je gedachten lezen. De sociale media-gigant heeft onlangs aangekondigd een doorbraak in zijn plan om een ​​apparaat te maken dat de hersengolven van mensen leest, zodat ze kunnen typen door alleen maar te denken. En Elon Musk wil nog verder gaan. Een van de andere bedrijven van de Tesla-baas, Neuralink, is een hersenimplantaat ontwikkelen om de geest van mensen rechtstreeks op een computer aan te sluiten.

Musk geeft toe dat hij neemt inspiratie van science fiction, en dat hij ervoor wil zorgen dat mensen dat kunnen "Bijblijven" met kunstmatige intelligentie. Hij lijkt het deel van sci-fi te hebben gemist dat dient als een waarschuwing voor de implicaties van technologie.

Deze systemen voor het lezen van gedachten kunnen onze privacy, beveiliging, identiteit, gelijkheid en persoonlijke veiligheid beïnvloeden. Willen we echt alles dat nog over is aan bedrijven met filosofieën zoals die van Facebook's voormalige mantra, "beweeg snel en breek dingen"?

Hoewel ze futuristisch klinken, zijn de technologieën die nodig zijn om hersengolf-leesapparatuur te maken niet zo verschillend van de standaard MRI (magnetic resonance imaging) en EEG (electroencephalography) neurowetenschappelijke hulpmiddelen die in ziekenhuizen over de hele wereld worden gebruikt. Je kunt al een kit kopen om een ​​drone te besturen met je geest, dus het gebruiken van één om woorden uit te typen is in sommige opzichten niet zo'n grote sprong. De vooruitgang zal waarschijnlijk te wijten zijn aan het gebruik van machine learning om enorme hoeveelheden gegevens uit onze hersenen te doorzoeken en de patronen in neuronactiviteit te vinden die gedachten aan specifieke woorden koppelen.

Een hersenimplantaat heeft waarschijnlijk veel meer tijd nodig om zich te ontwikkelen, en het is belangrijk om de werkelijke te scheiden prestaties van Neuralink van mediahype en promotie. Maar Neuralink heeft gelijktijdig verbeteringen aangebracht in materialen voor elektroden en robotondersteunde chirurgie om ze te implanteren, de technologie netjes verpakt zodat deze via USB kan worden gelezen.

{besloten Y=kPGa_FuGPIc}

De plannen van Facebook en Neuralink kunnen voortbouwen op gevestigde medische praktijken. Maar wanneer bedrijven gedachten rechtstreeks uit onze hersenen verzamelen, zijn de ethische kwesties heel anders.

Elk systeem dat gegevens rechtstreeks uit onze hersenen zou kunnen verzamelen, heeft duidelijke privacyrisico's. Privacy gaat over toestemming. Maar het is heel moeilijk om de juiste toestemming te geven als iemand rechtstreeks in onze gedachten tikt. Silicon Valley-bedrijven (en overheden) al heimelijk verzamelen zoveel mogelijk gegevens over ons verzamelen en gebruiken op een manier die we zouden doen ze deden het liever niet. Hoe zeker kunnen we zijn dat onze willekeurige en persoonlijke gedachten niet worden vastgelegd en bestudeerd naast de instructies die we de technologie willen geven?

Discriminatie en manipulatie

Een van de bestaande ethische problemen met het verzamelen van gegevens is discriminatie op basis van kenmerken zoals geslacht of ras die uit de gegevens kunnen worden onderscheiden. Door de geest van mensen een kijkje te geven, kan het gemakkelijker worden om andere dingen te bepalen die de basis kunnen vormen van vooroordelen, zoals seksualiteit of politieke ideologie, of zelfs verschillende manieren van denken die dingen als autisme kunnen omvatten.

Met een systeem dat rechtstreeks in je hersenen boort, kunnen niet alleen je gedachten worden gestolen, maar het is ook mogelijk dat ze ook kunnen worden gemanipuleerd. Hersenstimulatie wordt al ontwikkeld om te helpen behandel PTSS en geweld verminderen. Er zijn zelfs sensationele claims waaraan het kan worden gebruikt upload kennis direct net als in de film The Matrix.

Een voorspelbare stap zou zijn om de 'in'- en' out'-technologieën te combineren voor een tweerichtingsbrein-computerinterface. Het potentieel voor overheden om ons complianter te maken, voor werkgevers om ons te dwingen harder te werken, of voor bedrijven om ons meer van hun producten te laten maken, onderstreept hoe serieus we deze technologie moeten nemen.

Facebook's prototype hersengolf-leesapparaat. Facebook

Als apparaten voor het lezen van gedachten de normale manier worden om met computers te communiceren, hebben we misschien weinig keus dan ze te gebruiken om productievere collega's bij te houden. (Stel je voor dat iemand vandaag solliciteert voor een kantoorbaan maar weigert om e-mail te gebruiken.) En als implantaten in de stijl van Neuralink de norm worden, kan dit ook leiden tot grotere ongelijkheid, bepaald door het kitniveau dat je zou kunnen betalen.

Elon Musk heeft verklaard dat de enorme lening die nodig is om Neuralink-chirurgie te betalen zou worden gecompenseerd door potentiële inkomsten voor de 'verbeterde'. Het idee dat mensen zich onder druk gezet voelen om enorme schulden aan te gaan om een ​​operatie te ondergaan, gewoon om hun baan te behouden, komt rechtstreeks voort uit een sciencefiction dystopie.

Bovendien is dit de meer directe fysieke dreiging van systemen die fysiek in onze hersenen binnendringen. Hoewel sommige mensen hun hersenen misschien willen aanpassen met een computerinterface (er zijn er al genoeg experimentele biohackers), om dit op grote schaal uit te rollen, zou massale en grondige testen nodig zijn.

Gezien Silicon Valley's reputatie (en voorliefde) voor het breken van dingen in plaats van te stoppen om erover na te denken, zullen deze systemen nauwkeurige regelgeving en ethische beoordeling nodig hebben, zelfs voordat het testen begint. Anders riskeert het verminkte menselijke cavia's.

Voor dit alles kunnen er enorme voordelen zijn aan voortgaand onderzoek op dit gebied, met name voor diegenen die lijden aan verlamming of sensorische stoornissen. Maar Silicon Valley zou niet moeten kunnen bepalen hoe deze technologieën worden ontwikkeld en toegepast. Als ze dat doen, kan dit de manier waarop we ons als mens identificeren radicaal veranderen.

Over de auteur

Garfield Benjamin, postdoctoraal onderzoeker, School of Media Arts and Technology, Solent University

Dit artikel is opnieuw gepubliceerd vanaf The Conversation onder een Creative Commons-licentie. Lees de originele artikel.