‘Dit gesprek kan worden opgenomen voor trainingsdoeleinden’

Kunstmatige intelligentie verschaft ons compleet nieuwe inzichten in het gesproken woord. In de snelheid van spreken, volume, pauzes, klemtoon, dialect en vocabulaire zit informatie verborgen over ons gedrag, identiteit, emoties, uiterlijk en (mentale) gezondheid. Wat ons oor niet hoort, kan kunstmatige intelligentie wel oppikken. Slimme AI-machines kunnen ook inmiddels een beeld creëren van iemands uiterlijk. Steeds meer bedrijven ontdekken de commerciële waarde van dergelijke biometrische data en proberen die te bemachtigen. Wanneer we telefonisch contact hebben met verzekeraars, banken of overheidsorganisaties horen we vaak: ‘Dit gesprek kan worden opgenomen voor trainingsdoeleinden.’ Bedenk dan dat deze opnames soms worden gebruikt om mensen te trainen, maar meestal zal het gaan om het trainen van AI-systemen, bijvoorbeeld in het herkennen van emoties. Hetzelfde geldt voor het groeiende aantal apparaten met stembesturing: slimme speakers, slimme apps en smartphones.

Alzheimer

Amazon, eigenaar van Alexa, heeft vorig jaar patent aangevraagd voor een technologie waarmee persoonlijke eigenschappen kunnen worden bepaald op basis van iemands stem. Denk aan identiteit (geslacht, leeftijd, etniciteit), gezondheid (keelpijn, verkoudheid), maar ook emoties als vreugde, woede, verdriet, angst, verveling en stress. De digitale Alexa-assistent van de toekomst kan dus aan onze stem onze gemoedstoestand ‘aflezen’. Dit soort systemen zullen dan ook steeds empathischer reageren, omdat ze weten hoe u zich voelt.

Gezondheid

Op termijn zullen ze ook de eerste tekenen van een verslechterende gezondheid kunnen herkennen. Zo blijkt de stem bijvoorbeeld een goede voorspeller te zijn van posttraumatische stressstoornis. Mensen met Alzheimer hebben moeite met het vinden van woorden, laten langere pauzes vallen en twijfelen meer. Het bedrijf Winterlight heeft nu een systeem ontwikkeld om in een vroeg stadium de hersenziekte te detecteren op basis van (Engelstalige) spraak. Ook Parkinson kan zo waarschijnlijk ooit worden opgespoord met behulp van stemanalyse-software.

Dat is een enorme winst, zowel financieel als medisch. Want hoe eerder een ziekte wordt gedetecteerd, hoe effectiever de behandeling zal zijn. In de toekomst zouden sommige diagnoses gewoon vanuit huis gemaakt kunnen worden met behulp van stemanalyse: snel, makkelijk en goedkoop.

Slimme AI-machines kunnen ook inmiddels een beeld creëren van iemands uiterlijk, gebaseerd op zijn of haar stem. Door analyse van duizenden uren aan pratende mensen in YouTube-video’s, legt de technologie een verband tussen spraak en uiterlijke kenmerken. Een nieuw soort computersysteem is vervolgens in staat een visueel beeld te creëren.

Afhankelijk

Ik sta ambivalent tegenover deze ontwikkeling. Ik zie de voordelen van stemanalyse in de gezondheidszorg en vind dat we elk initiatief dat snelle diagnose van ziektes mogelijk maakt, moeten aanmoedigen. Maar ik maak me ook zorgen. Het risico is dat onze privacy nog meer wordt aangetast: dat overheid en commerciële bedrijven veel meer over ons te weten komen dan we zou willen. Wat doen ze met die kennis? En hoe gaan ze deze data gebruiken?

Eén van de risico’s is bijvoorbeeld dat mensen al bij de deur van een verzekeraar stiekem worden geweigerd, omdat ze op basis van stem-analyse een hogere kans krijgen toebedeeld op latere lichamelijke of mentale problemen. En stel je voor dat bij telefonische sollicitaties dit soort stemanalyse-software wordt gebruikt, die kan detecteren dat je zwaarlijvig, Marokkaans of gevoelig voor stress bent. Of alledrie. Of dat ik bij autopech de wegenwacht bel en dat de software registreert dat ik alcohol heb gedronken.

‘Een beroep doen op je privacy zet soms schimmige processen in werking’
De bescherming door privacywetgeving is flinterdun. Wanneer een bedrijf vooraf duidelijk maakt dat het bepaalde software inzet en je geeft daarvoor toestemming, dan mag er heel veel. Natuurlijk kun je aan het begin van ieder gesprek bezwaar maken tegen de verwerking van de persoonsgegevens. Maar vaak geven mensen toestemming omdat ze zich in een afhankelijkheidssituatie bevinden.

Denk aan de sollicitant die graag een nieuwe baan wil, de werknemer die een goede werkrelatie wil behouden, of een ondernemer met gezondheidsklachten die toch een arbeidsongeschiktheidsverzekering zou willen. Een beroep doen op je privacy zet soms schimmige processen in werking.

Bovendien ben ik bang dat, net als met de huidige gezichtsherkenningstechnologie, de beloftes van dit soort software veel te groot zijn en dat we er kwaliteiten aan toeschrijven die (nog) veel te hoog gegrepen zijn. Pas dus op waar, wanneer en tegen wie of wat je praat.

Mijn drie publicaties over kunstmatige intelligentie.

• (2017) De digitale butler – (Managementboek Top 5 NL)
• (2019) Machines met verbeeldingskracht: een kunstmatige realiteit
• (2019) Deepfake technologie: The Infocalypse