Bedrijven kunnen wat ze u proberen te verkopen binnenkort afstemmen op de stemming die wordt overgebracht door het geluid van uw stem. CSA-Printstock via Getty Images

U besluit een winkel te bellen die wandelschoenen verkoopt die u overweegt te kopen. Terwijl u inbelt, wordt de computer van een door de winkel ingehuurd bedrijf voor kunstmatige intelligentie geactiveerd. Het haalt zijn analyse op van de spreekstijl die u gebruikte toen u andere bedrijven belde die het softwarebedrijf bedient. De computer heeft geconcludeerd dat u "vriendelijk en spraakzaam" bent.

Met behulp van voorspellende routering brengt het u in contact met een klantenservicemedewerker die volgens bedrijfsonderzoek vooral goed is in het krijgen van vriendelijke en spraakzame klanten om duurdere versies te kopen van de goederen die ze overwegen.

Deze hypothetische situatie klinkt misschien alsof ze uit een verre toekomst komt. Maar geautomatiseerde spraakgestuurde marketingactiviteiten zoals deze gebeuren de hele tijd.

Als u hoort "Dit gesprek wordt opgenomen voor training en kwaliteitscontrole", houdt niet alleen de medewerker van de klantenservice in de gaten.

Jij kunt het ook zijn.

Bij het doen van onderzoek voor mijn aanstaande boek, "The Voice Catchers: hoe marketeers meeluisteren om gebruik te maken van uw gevoelens, uw privacy en uw portemonnee, ”Ik las meer dan 1,000 vakbladen en nieuwsartikelen over de bedrijven die verbonden zijn met verschillende vormen van stemprofilering. Ik heb honderden pagina's Amerikaanse en EU-wetten bestudeerd die van toepassing zijn op biometrische surveillance. Ik heb tientallen patenten geanalyseerd. En omdat er zoveel over deze branche evolueert, sprak ik met 43 mensen die eraan werken om het vorm te geven.

Het werd me al snel duidelijk dat we ons in de beginfase bevinden van een revolutie op het gebied van stemprofilering die bedrijven zien als een integraal onderdeel van de toekomst van marketing.

Dankzij de omarming van het publiek van slimme luidsprekers, intelligente autodisplays en spraakgestuurde telefoons - samen met de opkomst van spraakintelligentie in callcenters - zeggen marketeers dat ze op het punt staan ​​AI-ondersteunde vocale analysetechnologie te gebruiken om ongekende resultaten te bereiken. inzichten in de identiteit en neigingen van klanten. Door dit te doen, denken ze dat ze de fouten en fraude die gepaard gaan met traditionele gerichte advertenties kunnen omzeilen.

Mensen kunnen niet alleen worden geprofileerd aan de hand van hun spraakpatronen, maar ze kunnen ook worden beoordeeld aan de hand van het geluid van hun stemmen - die, volgens sommige onderzoekers, is uniek en kan hun gevoelens, persoonlijkheden en zelfs hun fysieke kenmerken onthullen.

Gebreken in gerichte advertenties

Topmarketingmanagers die ik heb geïnterviewd, zeiden dat ze binnen een decennium of zo verwachten dat hun klantinteracties stemprofilering omvatten.

Een deel van wat hen aantrekt tot deze nieuwe technologie is de overtuiging dat het huidige digitale systeem van het creëren van unieke klantprofielen - en hen vervolgens te targeten met gepersonaliseerde berichten, aanbiedingen en advertenties - heeft grote nadelen.

Een sluimerende zorg onder internetadverteerders, een die in de jaren 2010 naar buiten kwam, is dat klantgegevens vaak niet up-to-date zijn, profielen kunnen zijn gebaseerd op meerdere gebruikers van een apparaat, namen kunnen worden verward en mensen liegen.

Adverteerders zijn ook ongerust over advertentieblokkering en Klik fraude, wat gebeurt wanneer een site of app bots of laagbetaalde werknemers gebruikt om op advertenties te klikken die daar zijn geplaatst, zodat de adverteerders moeten betalen.

Dit zijn allemaal belemmeringen om individuele klanten te begrijpen.

Stemanalyse wordt daarentegen gezien als een oplossing die het voor mensen bijna onmogelijk maakt om hun gevoelens te verbergen of hun identiteit te ontwijken.

De infrastructuur uitbouwen

De meeste activiteiten op het gebied van stemprofilering vinden plaats in klantenservicecentra, die grotendeels buiten het publieke oog zijn.

Maar er zijn ook honderdmiljoenen van Amazon Echoes, Google Nests en andere slimme luidsprekers die er zijn. Smartphones bevatten ook dergelijke technologie.

Allen luisteren en vangen de individuele stemmen van mensen op. Ze reageren op uw verzoeken. Maar de assistenten zijn ook gebonden aan geavanceerde machine learning en diepe neurale netwerkprogramma's die analyseren wat je zegt en hoe je het zegt

Callcenters kunnen AI-ondersteunde spraaktechnologie gebruiken om te bepalen of ze bepaalde klanten willen upsellen. Ralf Hiemisch via Getty Images

Amazon en Google - de toonaangevende leveranciers van slimme luidsprekers buiten China - lijken weinig spraakanalyse uit te voeren op die apparaten, behalve dat ze individuele eigenaren herkennen en erop reageren. Misschien zijn ze bang dat het te ver doorvoeren van de technologie op dit punt tot slechte publiciteit zal leiden.

Desalniettemin geven de gebruikersovereenkomsten van Amazon en Google - evenals Pandora, Bank of America en andere bedrijven waartoe mensen routinematig toegang hebben via telefoonapps - hen het recht om hun digitale assistenten te gebruiken om u te begrijpen door de manier waarop u klinkt.

Amazon's meest openbare toepassing van stemprofilering tot nu toe is de Halo-polsband, die beweert de emoties te kennen die je overbrengt als je met familie, vrienden en werkgevers praat. Het bedrijf verzekert klanten dat het Halo-gegevens niet voor eigen doeleinden gebruikt. Maar het is duidelijk een proof of concept - en een knipoog naar de toekomst.

Patenten wijzen op de toekomst

De patenten van deze techbedrijven bieden een visie op wat komen gaat.

In één Amazon-patent, pikt een apparaat met de Alexa-assistent de spraakonregelmatigheden van een vrouw op die een verkoudheid impliceren door gebruik te maken van "een analyse van toonhoogte, polsslag, intonatie, trillingen en / of harmonie van de stem van een gebruiker, zoals bepaald door het verwerken van de spraakgegevens." Uit die conclusie vraagt ​​Alexa of de vrouw een recept voor kippensoep wil. Als ze nee zegt, biedt het aan om haar hoestdrankjes te verkopen met een levering van één uur.

Nog een Amazon-patent stelt een app voor om een ​​winkelverkoper te helpen de stem van een klant te ontcijferen om onbewuste reacties op producten te peilen. De bewering is dat hoe mensen klinken, beter aangeeft wat mensen leuk vinden dan hun woorden.

En een van de eigen uitvindingen van Google houdt in dat familieleden in realtime worden gevolgd met behulp van speciale microfoons die door het hele huis zijn geplaatst. Op basis van de toonhoogte van de stemhandtekeningen leidt het circuit van Google het geslacht en de leeftijd af (bijvoorbeeld een volwassen mannelijk en een vrouwelijk kind) en tagt deze als afzonderlijke individuen.

Het patent van het bedrijf beweert dat de 'huishoudpolitiemanager' van het systeem in de loop van de tijd levenspatronen kan vergelijken, zoals wanneer en hoe lang gezinsleden eten, hoe lang de kinderen televisie kijken en wanneer elektronische game-apparaten werken - en dan laat het systeem betere eetschema's voor de kinderen voorstellen, of bied aan om hun tv-kijken en het spelen van games te regelen.

Verleidelijke bewaking

In het Westen begint de weg naar deze advertentietoekomst met bedrijven die gebruikers aanmoedigen om hen toestemming te geven om spraakgegevens te verzamelen. Bedrijven krijgen de toestemming van klanten door hen te verleiden goedkope spraaktechnologieën te kopen.

Wanneer technologiebedrijven spraakanalysesoftware verder hebben ontwikkeld - en mensen steeds afhankelijker worden van spraakapparatuur - verwacht ik dat de bedrijven beginnen met wijdverbreide profilering en marketing op basis van spraakgegevens. Naar de letter, zo niet de geest van alle privacywetten die er bestaan, zullen de bedrijven, naar ik verwacht, doorgroeien naar hun nieuwe incarnaties, zelfs als de meeste van hun gebruikers toetraden voordat dit nieuwe bedrijfsmodel bestond.

Dit klassieke aas en deze schakelaar markeerden de opkomst van zowel Google als Facebook. Pas toen het aantal mensen dat naar deze sites stroomde groot genoeg werd om goedbetaalde adverteerders aan te trekken, werden hun bedrijfsmodellen gesterkt rond het verkopen van advertenties die waren gepersonaliseerd naar wat Google en Facebook wisten over hun gebruikers.

Dan, de sites waren zo'n belangrijk onderdeel geworden van de dagelijkse activiteiten van hun gebruikers dat mensen het gevoel hadden dat ze niet weg konden gaan, ondanks hun zorgen over het verzamelen en analyseren van gegevens die ze niet begrepen en niet konden beheersen.

Deze strategie begint zich al af te spelen bij tientallen miljoenen consumenten Koop Amazon Echoes tegen weggeefprijzen.

De donkere kant van stemprofilering

Hier is de vangst: het is niet duidelijk hoe nauwkeurig stemprofilering is, vooral als het om emoties gaat.

Het is waar, volgens Carnegie Mellon, spraakherkenner Rita Singh, dat de activiteit van uw stemzenuwen verbonden is met uw emotionele toestand. Singh vertelde me echter dat ze zich zorgen maakt dat met de gemakkelijke beschikbaarheid van machine-learning-pakketten, mensen met beperkte vaardigheden in de verleiding zullen komen om slordige analyses van de stemmen van mensen uit te voeren, wat leidt tot conclusies die even twijfelachtig zijn als de methoden.

Ze stelt ook dat gevolgtrekkingen die fysiologie koppelen aan emoties en vormen van stress cultureel bevooroordeeld en vatbaar voor fouten kunnen zijn. Die bezorgdheid heeft marketeers niet afgeschrikt, die doorgaans stemprofilering gebruiken om conclusies te trekken over de emoties, attitudes en persoonlijkheden van individuen.

Terwijl sommige van deze vorderingen beloven om het leven gemakkelijker te makenis het niet moeilijk in te zien hoe spraaktechnologie kan worden misbruikt en uitgebuit. Wat als stemprofilering een potentiële werkgever vertelt dat u een groot risico loopt voor een baan die u begeert of hard nodig heeft? Wat als het een bank vertelt dat u een groot risico loopt op een lening? Wat als een restaurant besluit je reservering niet aan te nemen omdat je laag of te veeleisend klinkt?

Denk ook eens aan de discriminatie die kan plaatsvinden als stemprofilers de beweringen van sommige wetenschappers volgen dat het mogelijk is om de vocalisaties van een persoon te gebruiken om de lengte, het gewicht, het ras, het geslacht en de gezondheid van de persoon te vertellen.

Mensen zijn al onderworpen aan verschillende aanbiedingen en kansen op basis van de persoonlijke informatie die bedrijven hebben verzameld. Spraakprofilering voegt een bijzonder verraderlijke manier van labelen toe. Tegenwoordig zijn sommige staten zoals Illinois en Texas bedrijven verplichten om toestemming te vragen alvorens een analyse uit te voeren van stem-, gezichts- of andere biometrische kenmerken.

Maar andere staten verwachten dat mensen op de hoogte zijn van de informatie die over hen wordt verzameld via het privacybeleid of de servicevoorwaarden - wat betekent dat ze dat zelden zullen doen. En de federale overheid heeft geen uitgebreide wet op marketingtoezicht uitgevaardigd.

Met de op handen zijnde wijdverbreide acceptatie van stemanalysetechnologie, is het belangrijk voor regeringsleiders om beleid en voorschriften aan te nemen die de persoonlijke informatie beschermen die wordt onthuld door het geluid van de stem van een persoon.

Een voorstel: terwijl het gebruik van spraakverificatie - of het gebruik van de stem van een persoon om zijn identiteit te bewijzen - zou onder bepaalde zorgvuldig gereguleerde omstandigheden kunnen worden toegestaan; alle stemprofilering moet worden verboden in interacties van marketeers met individuen. Dit verbod moet ook gelden voor politieke campagnes en voor overheidsactiviteiten zonder bevel.

Dat lijkt de beste manier om ervoor te zorgen dat het komende tijdperk van stemprofilering wordt ingeperkt voordat het te veel wordt geïntegreerd in het dagelijks leven en te doordringend om te controleren.

Over de auteur

Jozef Turow, Robert Lewis Shayon hoogleraar mediasystemen en industrieën, University of Pennsylvania

Dit artikel is opnieuw gepubliceerd vanaf The Conversation onder een Creative Commons-licentie. Lees de originele artikel.