Ik geef elke maand een behoorlijk aantal lezingen over kunstmatige intelligentie. Na elke lezing maak ik altijd tijd vrij voor vragen. Niet verrassend gaan veel van de vragen over dezelfde onderwerpen, zoals baanverdringing, AI-superintelligentie en desinformatie.
Een vaak terugkerende vraag verwijst naar de film “Her”, waarin een jonge man gesprekken voert met een geavanceerd kunstmatig intelligentiesysteem en uiteindelijk romantische gevoelens voor het systeem ontwikkelt. Ik zal de conclusie niet verklappen ;-).
Jarenlang bleef mijn antwoord ongewijzigd: zo’n scenario was pure fantasie. Het idee dat een kunstmatig intelligentiesysteem een zinvol gesprek kon voeren, iemand kon beïnvloeden, manipuleren en naadloos kon terugkeren naar onderwerpen uit eerdere discussies en ideeën, leek ver weg.
Wanneer fictie de realiteit ontmoet
Maar nu komt het: recente vooruitgang in AI-taalmodellen heeft de waarschijnlijkheid van zo’n scenario aanzienlijk veranderd. De conversatievaardigheden van AI zijn het afgelopen jaar aanzienlijk verbeterd.
Ik vind het steeds plausibeler dat commerciële entiteiten in de toekomst hun eigen conversatie-AI-agenten zullen cultiveren om online met potentiële klanten te interageren, voornamelijk met het doel hun commerciële doelstellingen te bereiken.
Een schaalbare online AI-gedreven “vertegenwoordiger” die 24 uur per dag verkoopgesprekken kan voeren namens elk bedrijf. Getraind met documenten over verkoop, beïnvloeding, marketing, debatteren en overtuigen.
Hypothetisch, als talloze commerciële entiteiten deze aanpak zouden aannemen, zou dit dan een nieuw tijdperk van reclame en marketing inluiden? Wie zal het zeggen? Zullen commerciële, proactieve chatbots de volgende grens zijn in digitale marketing?
Het is niet langer onzin om aan dit scenario te denken. Ik voorzie het niet op korte termijn, maar het gaat altijd sneller dan dat je denkt…
Het zet me wel aan het denken: hoe dicht zijn we bij AI-gedreven relaties?
Gevoelige onderwerpen
Laten we nog een stap verder gaan: wat als deze conversatiebots online werden ingezet om discussies over gevoelige onderwerpen zoals klimaatverandering, abortus en immigratie te sturen? Gericht op het beïnvloeden van de publieke opinie of het opvoeren van politieke spanning in een specifieke samenleving? (Zouden we dit in Amerika kunnen zien gebeuren door Rusland?).
Zullen deze conversatiebots worden ingezet door politieke partijen om de publieke opinie over gevoelige onderwerpen te beïnvloeden? Het is alsof duizenden individuen worden ingezet, die onvermoeibaar potentiële kiezers bellen om ze te overtuigen van bepaalde meningen.
Valse intimiteit
Deze bots kunnen zelfs vriendschap en intimiteit veinzen om ons te manipuleren, allemaal met het doel ons te overtuigen van specifieke standpunten of ons producten en diensten te verkopen. Dit klinkt misschien fantasievol, maar dit laatste scenario wordt als plausibel beschouwd door denkers als Harari.
Kunstmatige intelligentiesystemen die met ons praten, onze emoties manipuleren, met ons flirten en ons het gevoel geven dat we gewaardeerd en erkend worden. En die onze inherente behoefte aan verbinding, acceptatie en liefde uitbuiten.
Conclusie? Voor mij voelt een verhaallijn uit een sciencefictionfilm uit 2013 ineens een stuk realistischer aan.
