We zien ze steeds vaker om ons heen: digitale mensen. Verschijningsvormen van personen die in werkelijkheid niet bestaan. Op het internet, in de krant, bij het nieuws. Het zijn digitale kopieën, weerspiegelingen van wie wij als mens zijn, te zien op laptop, smartphone, of tv. Soms niet meer van echt te onderscheiden. De scheidslijn tussen echt en nep wordt steeds dunner.

De digitale avatar 

Bij veel digitale mensen gaat het om avatars’. De avatar helpt bij de klantenservice of geeft een korte presentatie over een specifiek onderwerp. De voordelen zijn duidelijk: het is een verdere digitalisering van de klantenservice en van communicatie. Ook vervangt het menselijke arbeid en contact waar dat niet noodzakelijk, wenselijk of rendabel is. Met digitale mensen maak je menselijke communicatie voor iedereen beschikbaar én goedkoper. 

In de toekomst zal een nieuwslezer vaak een avatar zijn, net als de virtuele medewerker van McDonalds die ons naar onze fastfood wensen informeert. Een avatar bij de woningbouwvereniging schakelt in haar informatievoorziening makkelijk over van Turks naar Arabisch of van Zweeds naar Hindi, afhankelijk van de behoefte van de klant. Een digitale medewerker in de thuiszorg verschijnt als een senior bezorgd een knop van de iPad drukt, om hem of haar gerust te stellen en te melden dat de thuiszorgmedewerker onderweg is. Op de luchthaven helpt een digitale avatar om ons in te checken en naar de juiste gate te loodsen. 

In Nederland hebben veel mensen moeite lange stukken geschreven informatie tot zich te nemen en te verwerken. Avatars zullen waarschijnlijk een groot gedeelte van de schriftelijke informatievoorziening, bijvoorbeeld van de overheid, kunnen overnemen door de teksten voor te lezen. Zo vaak, zo duidelijk, zo snel als de toehoorder wenst. Desgewenst in de voorkeurstaal. In de gezondheidszorg kunnen zulke avatars ook nuttig zijn. Mocht een patiënt na een gesprek met de dokter nog vragen hebben, dan kunnen deze misschien beantwoord worden via een beeldscherm thuis, door de digitale geneeskundige assistent. Ieder gesprek wat nu via een gespreksdiagram, een beslisboom kan worden gevoerd, kan in de nabije toekomst ook worden gedaan door een digitaal mens. 24 uur per dag, zeven dagen per week. De digitale menselijke (avatar) is nooit moe, nooit chagrijnig, houdt zich altijd aan het protocol en kun je makkelijk nieuwe regels en informatie meegeven. 

Gekloonde Beroemdheden

Verder zullen we zien dat beroemdheden hun uiterlijke verschijning of stem gaan kopiëren om deze beschikbaar te stellen voor marketing, commercie en communicatie. Met deepfake technologie kunnen zij kenmerkende eigenschappen van zichzelf digitaal klonen. De celebrities hoeven niet meer in het vliegtuig te stappen om wereldwijd reclamefilmpjes op te laten nemen. Dat soort (voor hen saaie en tijdrovende) klusjes kunnen ze net zo goed overlaten aan hun digitale tweelingbroers of –zussen: de digitale body double die naar hun gelijkenis gecreëerd zijn. Ze kunnen in een week veertig radiospotjes maken en zestig reclamefilmpjes. Lionel Messi in een tv-reclame over stroopwafels, hagelslag en pindakaas, zonder dat de échte voetbalster daar weet van heeft of enige moeite voor hoeft te doen. 

Bekende merken kunnen digitale modellen creëren voor een marketingcampagne. Soms als gelijkenis van een bekend persoon, maar soms ook volledig nieuw geboren. 

Volledig virtuele beroemdheden

Er zijn nu al volledig virtuele digitale beroemdheden. Beroemdheden die nooit in een vorm van vlees en bloed hebben bestaan. Denk aan Lil’ Miquela, een digitale beroemdheid die op Instagram inmiddels bijna drie miljoen volgers heeft. En dit soort virtuele influencers kosten niets, want ze hoeven geen gage te ontvangen, wonen nergens, eten niets, hebben geen reiskosten, hebben geen partners en kinderen, geen scheidingsperikelen, geen eigen moreel kompas,  geen alimentatie, worden nooit ziek en blijven eeuwig jong. En als ze hun populariteit verliezen, kun je ze gewoon deleten.

Iedereen zijn eigen avatar

Zo gewoon als dat het nu is om een e-mailadres en telefoonnummer te hebben, kan dat in de toekomst opgaan voor avatars. Iedereen kan zijn of haar eigen versie of versies laten maken. In het onderwijs zullen er voor dit soort technologieën legio toepassingen zijn. Docent-avatars kunnen klassen toespreken. Het wordt zelfs mogelijk overleden denkers, kunstenaars en politici virtueel tot leven te wekken. Een college van Albert Einstein, een masterclass van Salvador Dali, een toespraak van Nelson Mandela, alles is mogelijk. Geen tijd om voorafgaand aan een Zoom-call met collega’s je haar en make-up te doen? Je avatar-filter zorgt voor een perfecte weerspiegeling van jou op hun beeldscherm. Fotomodellen in webshops van modemerken zullen online steeds vaker digitaal gecreëerd zijn. Dat levert voor bedrijven een enorme kostenbesparing op in vergelijking met traditionele fotoshoots.

In de muziekindustrie zullen stemmen en verschijningsvormen van artiesten gekopieerd en gekloond worden. Zo zal er een volledig nieuwe database van nieuwe synthetische muziek ontstaan. Mogelijk met kersverse nummers van Freddy Mercury of Amy Winehouse, misschien zelfs in een andere taal. Cartoon serie ‘The Simpsons’ kan voor altijd blijven voortbestaan. Ook nu de stemacteurs richting de pensioengerechtigde leeftijd gaan. 

Ethische vragen

Er zijn enorm veel mogelijkheden en voordelen te bedenken die avatars ons bieden, maar er zijn ook risico’s en nadelen. Bovendien roepen dit soort digitale mensen veel ethische vragen op. Ik noem er vijf.

1. Valse verwachtingen

Allereerst is het belangrijk te noemen dat het creëren van digitale mensen ook valse verwachtingen kunnen scheppen. Consumenten, burgers kunnen door de levensechte verschijningsvorm onterecht verwachten dat kunstmatig intelligente software dusdanig kwalitatief hoogwaardig is, dat avatars mensen volledig kunnen vervangen. Het uiterlijk kan echter bedrieglijk zijn. Avatars zien er aan de buitenkant misschien volstrekt geloofwaardig uit, maar zijn anno 2021 in de praktijk nog niet in staat een uitgebreid gesprek te voeren, laat staan een kletspraatje te voeren of een vorm van persoonlijke bespiegeling te bezitten. Bovendien zullen ze slechts uitvoeren waarvoor de makers ze geprogrammeerd hebben. 

De MetaHuman van Unreal Engine baarde een tijdje geleden opzien door haar hyperrealistische menselijke verschijningsvorm. Maar op de Unreal website werd niet verteld dat de menselijke stem van de avatar in het promotiefilmpje gewoon van een stemacteur was. Makers van dit soort software moeten dus alert zijn op het creëren van deze valse verwachtingen door hun hyperrealistische weergave en eerlijk zijn over wat de software wel en niet kan. 

2. Grens tussen echt en nep

De vraag zou ook kunnen zijn: hoe realistisch hoeft het eigenlijk te zijn? Is een klein verschil, onderscheid tussen digital en echte mensen niet gezond om de grens tussen echt en nep te kunnen blijven maken? 

In het geval van avatars is het volgens mij belangrijk consumenten, gebruikers, burgers duidelijk te laten weten dat ze niet communiceren met een mens van vlees en bloed, maar met een digitaal persoon die niet echt bestaat. Het is wenselijk dat er een melding of waarschuwing wordt getoond. Anders kan het misschien verwarrend zijn. Vooral kinderen en ouderen zijn waarschijnlijk heel gevoelig voor beïnvloeding. Dat zie je al met de digitale spraakassistent Alexa. Niet iedereen is even goed in staat het onderscheid te maken tussen een digitaal en een gewoon mens. Zeker nu de scheidslijn tussen echt en nep steeds dunner wordt, naarmate de technologie zich razendsnel ontwikkelt. 

3. Gevoelens

Een ander ethisch dilemma ontstaat wanneer mensen vriendschappelijke gevoelens ervaren in het contact met digitale mensen. Dat is geen gekke gedachte. Er zijn immers veel mensen die gevoelens van liefde, sympathie en hechting ervaren met een teddybeer, een pop, een heiligenbeeldje. Ze zien deze objecten als medemensen, iets wat trouwens ook heel herkenbaar is in de omgang met huisdieren. Hier doet zich heel vaak het verschijnsel van antropomorfisme voor: het toekennen van menselijke eigenschappen aan niet-menselijke wezens en voorwerpen. Het gevolg is dat deze benaderd of behandeld worden alsof ze menselijk zijn qua vorm, karakter of gedrag. In het geval van avatars werkt dat nog sterker. In de eerste plaats lijken ze in alles op een echt mens. In de tweede plaats hebben mensen soms niet eens door dat ze te maken hebben met iets wat niet meer is dan door de computer gegenereerde beelden en klanken.

Dat roept de vraag op: is het ervaren van hechting met een digitale mens nuttig? Of schadelijk? Bijvoorbeeld voor oudere mensen om toch nog een vorm van menselijk contact te hebben, wanneer ze anders eenzaam zijn? Wat is beter: eenzaamheid of de illusie van gezelschap? Is contact met een digitaal mens wenselijk of hebben mensen het recht op waarachtig menselijk contact, zeker in de zorg? Het risico bestaat dat de permanente aanwezigheid van een digitale persoonlijke assistent ertoe leidt dat ouderen de deur niet meer uitgaan om anderen te ontmoeten. Hun behoefte aan menselijk contact’ is immers al vervuld? Of loopt dat zo’n vaart niet? 

Nog een stap verder: in de toekomst zijn dit soort digitale mensen misschien dermate geloofwaardig, dat de gebruiker gevoelens van verliefdheid ervaart. Met alle gevolgen van dien als het contact ongewild of plotseling wordt verbroken (door diefstal, defect of stroomstoring). Wat vinden we daar eigenlijk van? 

4. Minder menselijk contact

Als we uitzoomen om naar het groter geheel te kijken, rijst de vraag of het nodig is nog meer menselijk face-to-face contact uit te besteden aan digitale mensen. We hebben door de digitalisering, smartphone, internet, sociale media al steeds minder contact in de fysieke ruimte, met anderen om ons heen. Moeten we nu nog meer dergelijke momenten en mogelijkheden verliezen? Wat doet dit met de onderlinge verbondenheid? Met het gevoel dat we onderdeel zijn van iets groters? 

Daarbij wijs ik graag op een niet onbelangrijk aspect: veel menselijke interactie is niet in waarde uit te drukken, laat staan eenvoudig te vervangen. Uit onderzoek blijkt bijvoorbeeld dat het genezingsproces veel sneller verloopt wanneer patiënten veel contact met lotgenoten en ziekenhuispersoneel hebben. Gezelschap, belangstelling en persoonlijk contact verrijkt het leven. De vraag is of avatars dat ooit zullen kunnen. En of we dat moeten willen.

Natuurlijk zie ik ook de mogelijkheden en kansen van digitale mensen om communicatie laagdrempelig te maken. Maar het zou zonde zijn dat we over 10 jaar ontdekken dat we iets Door onze vingers hebben laten glippen wat achteraf heel waardevol bleek te zijn.

(tekst loopt door onder afbeelding)

"Voor de eerste editie van ons online digital marketing event bij Achmea heeft Jarno een lezing gegeven over synthetische media en deepfakes. Jarno brengt met veel energie de boodschap over en maakt het onderwerp erg toegankelijk, ook voor collega’s die weinig digital kennis hebben. Met behulp van sprekende voorbeelden word je helemaal meegenomen in de wereld van deze nieuwe technologie."
Kimberley van Hulst
Digital Marketeer Achmea
Kimberley van Hulst
"Jarno heeft bij de HKU een lezing verzorgd over Synthetische Media: Kunstmatige creativiteit. Jarno liet aan de hand van vele voorbeelden zien wat er in de fascinerende wereld van deepfakes allemaal mogelijk is. Interessant en beangstigend tegelijkertijd, en genoeg stof tot nadenken. Zijn lezing werd met veel enthousiasme ontvangen."
Marjoleine Gadella
Coördinator Evenementen bij HKU
Marjoleine Gadella

5. Digitale onsterfelijkheid

Ten slotte is er het punt van digitale (on)sterfelijkheid. Wanneer we in staat zijn onze eigen of andermans verschijningsvorm te digitaliseren en stemmen te klonen, wordt digitale onsterfelijkheid een plausibel scenario. Iemands avatar kan blijven bestaan, ook nadat de fysieke versie’ is overleden. Het is dus nu al technisch mogelijk dat iemands digitale kopie zijn of haar achterkleinkinderen over 100 jaar een verhaaltje voorleest. Het enige wat daarvoor nodig is, is bij wijze van spreken een toetsenbord en een beeldscherm. 

Dat roept een interessante vraag op: hoe gaan we om met de digitale erfenis van overledenen? Mag ik videomateriaal van mijn overleden familieleden gebruiken om daar een nieuwe deepfake-film mee te maken? Mag ik hun stem gebruiken om nieuwe audio op te nemen? Ze hebben daar geen toestemming voor gegeven, maar is het gewoon te beschouwen als een aanvulling op bestaand foto- en videomateriaal? Of is het toch van een andere orde? Er zouden zaken kunnen worden uitgebeeld waar de overledene nooit mee zou instemmen en die zijn of haar nagedachtenis ernstig aantasten en veranderen. 

Het kan zelfs zijn dat avatars het proces van afscheid nemen en rouwverwerking in de weg staan. Wordt iemand als echt dood beschouwd als hij of zij maar aanwezig blijft als pseudo-levende verschijning? Of is het juist andersom: dat gevoelens van rouw sneller verwerkt kunnen worden wanneer we nieuwe media kunnen creëren op basis van bestaande video- of geluidsopnames? 

Om daar even op voor te borduren: Is het verstandig dat ik in mijn testament laat opnemen dat ik niet gekloond of gekopieerd wil worden in de toekomst? Dat zijn vragen die we ons nu moeten stellen, de technologie is er immers nagenoeg rijp voor. Uitgangspunt van deze hele discussie zou dan kunnen zijn: met het creëren van digitale mensen, rommelen we dan niet teveel met de menselijke identiteit?  

Bekijk hier mijn bijdrage voor Nieuwsuur hierover
– Luister hier mijn bijdrage op NPO Radio 1 hierover
– Lees hier mijn input voor Dagblad Trouw

(Kader) Jarno Avatar

Zelf heb ik in een studio een avatar van mijzelf laten maken. Het resultaat is een avatar die in verschijningsvorm uitzonderlijk sterk op mij lijkt. Het enige wat ik hoef te doen is een stuk tekst typen op een toetsenbord en een kwartier later heb ik een presentatievideo. Zeker wanneer ik mijn eigen stemopname upload in het programma, is de scheidslijn tussen mijzelf en de digitale avatar erg dun. Ik heb deze avatar laten maken, omdat ik graag wil experimenteren met nieuwe technologie. Verder was ik nieuwsgierig waartoe de technologie al in staat is. Bovendien heb ik in het licht van de coronapandemie geprobeerd om mijzelf te digitaliseren, te vermenigvuldigen en te schalen. Misschien dat ik zo in de toekomst op meerdere plekken tegelijkertijd een lezing kan geven. Ik kan nu dus heel makkelijk een video van mezelf maken als presentator. 

Hoewel het ongekend makkelijk was een video van mijzelf als avatar-presentator te maken, zie je na twee minuten kijken duidelijk het verschil tussen de mens van vlees en bloed en de digitale versie. De avatar is allereerst gewoon te saai om langdurig naar te kijken. Te weinig variatie. En het is nog niet feilloos in de synchronisatie van gezichtsexpressie, beweging van lippen en stem. De technologie staat is nog niet perfect. Maar zelfs als de technologie geperfectioneerd wordt, vraag ik me af of er een echte connectie, een ware klik kan ontstaan met de toeschouwer. Is een avatar-spreker werkelijk in staat een zaal in vervoering te brengen? Mee te nemen in zijn enthousiasme? In te spelen op gevoelens en reacties in de zaal? Humor of begrip te tonen als zich onverwachtse zaken voordoen? Dat zijn belangrijke eigenschappen van een goede spreker. Het raakt ook aan de kern van het menszijn en het is de eeuwige vraag in hoeverre de toekomstige technologie in die dimensie kan doordringen.

NB: Dank aan Siri Beerends van Setup voor het meedenken!

Geselecteerde Blog

Creating a look-a-like digital deepfake avatar

Creating a look-a-like digital deepfake avatar

I made a look-a-like deepfake digital avatar of myself. in this blog you can read what I did and why I did it. What I like and still needs improvement.

Are you interested in digital avatars? Then this blog is definitely worth your time.

Lees verder