Machines die luisteren - zoals Google Home - komen nu vaker voor, maar de technologie kan zoveel meer 'horen' dan alleen onze spraakopdrachten. Shutterstock / DavidFerencik

Slimme luidsprekers uitgerust met digitale stemassistenten zoals Siri en Alexa zijn nu de snelst groeiende consumententechnologie sinds de smartphone.

Bijna 100 miljoen waren uitverkocht alleen al in 2018, a drievoudig stijging ten opzichte van het voorgaande jaar. En nergens is deze groei sneller dan in Australië.

Maar we moeten ons zorgen maken over waar deze slimme luidsprekers naar luisteren. Het is meer dan alleen onze stemcommando's om een ​​stuk of muziek te spelen of het licht uit te schakelen.

We moeten goed nadenken over waar dit soort technologie naartoe gaat. Al snel zullen het niet alleen onze slimme luidsprekers zijn die luisteren, maar ook allerlei andere apparaten.

Beveiligingssystemen die luisteren naar het geluid van geweerschoten of gebroken glas, CCTV-camera's uitgerust met microfoons, auditieve bewaking op het werk en een groeiend aantal andere apparaten zijn zorgwekkend.

Snelle opname

Aan het einde van 2018 was het percentage Australische volwassenen met een slimme luidspreker in slechts 29 maanden gestegen van nul naar 18%, volgens de Australië Smart Speaker Consumer Adoption Report deze maand vrijgegeven. Het rapport was een gezamenlijk werk van de tech nieuwssite en Voicebot en digitale consultants EERST.

Op basis van een enquête onder 654 Australiërs schat het rapport dat sommige 5.7 miljoen Australiërs nu slimme speakers bezitten van een totale volwassen bevolking van ongeveer 19.3 miljoen.

De Australische gebruikersgroep ten opzichte van de populatie overtreft nu die van de VS (26%), ondanks dat de apparaten hier minder dan de helft van de tijd beschikbaar zijn.

Als de opwaartse trend aanhoudt - Deloitte verwacht de markt is minstens US $ 7 miljard waard in 2019, een stijging van 63% op 2018 - slimme luidsprekers zullen binnenkort nog algemener zijn.

Ze zijn al in onze huizen en werkplekken, hotels, ziekenhuizen en universiteiten.

We zijn ook steeds comfortabeler aan het praten met onze technologie, volgens het rapport over consumentenacceptatie:

Meer dan 43% van de Australische eigenaars van slimme luidsprekers zegt dat sinds ze de apparaten hebben gekocht, ze stemassistenten vaker op smartphones gebruiken.

Het verbaast ons niet langer dat we met onze telefoons kunnen praten, auto's, televisies, horloges, zelfs onze Barbie poppenen verwacht een reactie.

Hoe zit het met privacy?

Maar het recente consumentenrapport zegt ook dat Australiërs zich zorgen maken over dergelijke sprekers. Bijna tweederde van de ondervraagde mensen zegt zich enigszins zorgen te maken over de privacyrisico's van slimme luidsprekertechnologie - 17.7% zei dat ze "zeer bezorgd" waren.

Het rapport geeft niet aan wat deze zorgen zijn. Misschien maken we ons zorgen over opnames van onze gesprekken gemaild naar collega's zonder onze kennis of toestemming, of toegelaten als bewijzen in de rechtbank.

Maar ik geloof dat we ons veel minder zorgen maken dan we zouden moeten doen over waar deze industrie naartoe gaat. Slimme luidsprekers luisteren niet alleen naar wat wij zeggen. Steeds vaker luisteren ze ook naar hoe en WAAR we zeggen het.

Ze luisteren naar onze vocale biometrie, naar hoe we stotteren en pauzeren, naar onze tone of voice, accent en humeur, naar onze staat van welzijn, naar de grootte en vorm van de kamer waarin we zitten, en naar de ambient geluiden, muziek en tv-shows op de achtergrond. Allemaal met het doel steeds meer gegevens te verzamelen over wie we zijn en wat voor soort dingen we doen.

Wie luistert er?

Wat nog belangrijker is, echter, de snelle opkomst slimme luidsprekers luidt het aankomende tijdperk in van het luisteren naar de machine, waar we kunnen verwachten dat alle soorten netwerkapparaten autonoom luisteren naar, verwerken en reageren op onze auditieve omgevingen: luisteren naar zowel geluid als spraak, met en zonder onze toestemming, vrijwel altijd.

Audio analyse, een van de meer prominente bedrijven in dit gebied, verklaart op zijn website:

We zijn op een missie om alle machines een gevoel van gehoor te geven [...]

Dit is veel minder vergezocht dan het klinkt. De belangrijkste software van Audio Analytic, ai3TM, beweert in staat te zijn "een groot aantal audio-evenementen en akoestische scènes" te herkennen, zodat apparaten zelf geluidsomgevingen kunnen begrijpen en erop kunnen reageren.

Dit al omvat hoofdtelefoons die weten wanneer iemand tegen je praat en het volume dienovereenkomstig kunnen aanpassen; auto's die zich autonoom aanpassen aan het geschal van hoorns; beveiligingssystemen die in staat zijn om het geluid van brouwende argumenten, verbrijzelingen van ramen en andere akoestische afwijkingen te identificeren. Systemen kunnen dan autonoom reageren of de relevante autoriteiten hiervan op de hoogte brengen.

Een ander bedrijf, Shooter Detectiesystemen, verkoopt technologie voor de autonome detectie van actieve shooter-situaties, inclusief geweerschoten. Het zogenaamde Guardian-systeem kan snel de locatie van een schot opsporen en waarschuwingen afgeven.

Pistoolschiettechnologie die al luistert in Amerikaanse scholen.

In een vergelijkbare, maar nog verontrustendere richting, AC Global Risk, naar verluidt claims om het potentiële risiconiveau van iemand met een grotere dan 97% nauwkeurigheid te kunnen bepalen door simpelweg de "kenmerken" van enkele minuten van hun stem te analyseren.

Walmart recent gepatenteerd een nieuwe prestatie-statistiek voor medewerkers op basis van algoritmische analyse van audiogegevens (spraakpatronen van medewerkers, het geritsel van tassen, geluiden van karren, voetstappen enzovoort) verzameld van microfoons geïnstalleerd op terminals en andere locaties in de winkels.

In 2017 introduceerde de regionale raad van Moreton Bay in Queensland altijd-aan luisterapparaten 330 CCTV-camera's overal in zijn raadsgebied, een beweging de burgemeester zei was om de politie te helpen de misdaad te bestrijden. De raad zegt dat het de luisterapparaten later dat jaar heeft gedeactiveerd nadat bezorgdheid was geuit.

Geef de waarschuwing aan

Elk van deze voorbeelden werpt complexe vragen op van ethiek, recht en beleid.

De soorten vragen die we recentelijk begonnen te stellen over alle AI - over de mogelijkheden van algoritmisch overbereik, bias, profilering, discriminatie en surveillance - allemaal moeten ook van slimme sprekers worden gevraagd.

Maar het is ook belangrijk om te begrijpen op welke manieren slimme luidsprekers zijn aangesloten op een veel breder gebied van machine-luisteren en auditieve bewaking waar velen terecht zorgen over maken.

Luisteren naar machines komt niet alleen maar, het is er al en het eist onze aandacht.

Over de auteur

James Parker, Senior Lecturer in Law, Universiteit van Melbourne

Dit artikel is opnieuw gepubliceerd vanaf The Conversation onder een Creative Commons-licentie. Lees de originele artikel.

Verwante Boeken

at InnerSelf Market en Amazon