Tijdens de coronapandemie zijn we steeds meer gewend geraakt aan elkaars digital verschijningsvorm. We videobellen dat het een lieve lust is en kijken daarbij letterlijk naar een digitale versie van de ander. We denken er niet meer over na dat er tussen ons een beeldscherm zit. Wat we als digitaal zien is voor ons ‘echt’. 

Onze fysieke wereld en digitale wereld versmelten al veel langer en nu staat dat ook te gebeuren met onze menselijke verschijning: De digimens. Digimensen zijn digitale verschijningsvormen van personen. Avatars die zeer sterk op mensen lijken. Soms hyperrealistisch zelfs. 

Soms zijn het digitale representaties van mensen die in het echt ook bestaan (Ik heb bijvoorbeeld een digitale deepfake look-a-like van mijzelf gemaakt en mijn stem gekloond. Het resultaat zie je hier), maar soms van mensen die nooit bestaan hebben. 

Commerciële bedrijven zijn ook actief met de digimens. We zien ze steeds vaker om ons heen. Op het internet, in de zorg, bij het nieuws. Het zijn digitale kopieën, weerspiegelingen van wie wij als mens zijn, te zien op laptop, smartphone of TV. Soms niet meer van echt te onderscheiden. De scheidslijn tussen echt en nep wordt steeds dunner. Het communiceren met dit soort softwaresystemen wordt steeds alledaagser.

(Wil je mijn item bij NOS Nieuwsuur over digital humans terugkijken? Dat kan hier.)

De digitale avatar 

Bij veel digitale mensen gaat het om avatars’. Digitale representaties van bestaande mensen. 

De avatar helpt bij de klantenservice, in de zorg of geeft een korte presentatie over een specifiek onderwerp. De voordelen zijn duidelijk: het is een verdere digitalisering van de klantenservice, dienstverlening en van communicatie. Ook vervangt het menselijke arbeid en contact waar dat niet noodzakelijk, wenselijk of rendabel is. Met digitale mensen maak je menselijke communicatie voor iedereen beschikbaar én goedkoper. 

In de toekomst zal een nieuwslezer vaak een avatar zijn, net als de virtuele medewerker van McDonalds die ons naar onze fastfood wensen informeert. Een avatar bij de woningbouwvereniging schakelt in haar informatievoorziening makkelijk over van Turks naar Arabisch of van Zweeds naar Hindi, afhankelijk van de behoefte van de klant. Een digitale medewerker in de thuiszorg verschijnt wanneer een senior bezorgd een knop van de iPad drukt, om hem of haar gerust te stellen en te melden dat de thuiszorgmedewerker onderweg is. De digitale verpleegkundige helpt de patient met de juiste stappen om zelf de bloeddruk op te meten. Op de luchthaven helpt een digitale avatar om ons in te checken en naar de juiste gate te loodsen. 

Wil je meer weten over dit soort ontwikkelingen? Download dan mijn 5 tech-boeken gratis en voor niks. 

 

Digitale mens ondersteunt bij communicatie

In Nederland hebben veel mensen moeite lange stukken geschreven informatie tot zich te nemen en te verwerken. Avatars zullen waarschijnlijk een groot gedeelte van de schriftelijke informatievoorziening, bijvoorbeeld van de overheid, kunnen overnemen door de teksten voor te lezen. Zo vaak, zo duidelijk, zo snel als de toehoorder wenst. Desgewenst in de voorkeurstaal. En zoals gezegd: in de gezondheidszorg kunnen zulke avatars ook nuttig zijn. Mocht een patiënt na een gesprek met de dokter nog vragen hebben, dan kunnen deze misschien beantwoord worden via een beeldscherm thuis, door de digitale geneeskundige assistent. Ieder gesprek wat nu via een gespreksdiagram, een beslisboom kan worden gevoerd, kan in de nabije toekomst ook worden gedaan door een digitaal mens. 24 uur per dag, zeven dagen per week. De digitale menselijke (avatar) is nooit moe, nooit chagrijnig, houdt zich altijd aan het protocol en kun je makkelijk nieuwe regels en informatie meegeven. 

En welke ethische bezwaren we kunnen hebben tegen de digitale mens (daarover straks meer), we moeten ook onder ogen zien dat we met de toenemende vergrijzing, de personeelstekorten in zorg en onderwijs soms wellicht  gereedschappen moeten gebruiken die ons in eerste instantie een unheimisch gevoel geven.

Gekloonde Beroemdheden

Verder zullen we zien dat beroemdheden hun uiterlijke verschijning of stem gaan kopiëren om deze beschikbaar te stellen voor marketing, commercie en communicatie. Met deepfake technologie kunnen zij kenmerkende eigenschappen van zichzelf digitaal klonen. De celebrities hoeven niet meer in het vliegtuig te stappen om wereldwijd reclamefilmpjes op te laten nemen. Dat soort (voor hen saaie en tijdrovende) klusjes kunnen ze net zo goed overlaten aan hun digitale tweelingbroers of –zussen: de digitale body double die naar hun gelijkenis gecreëerd zijn. Ze kunnen in een week veertig radiospotjes maken en zestig reclamefilmpjes. Lionel Messi in een tv-reclame over stroopwafels, hagelslag en pindakaas, zonder dat de échte voetbalster daar weet van heeft of enige moeite voor hoeft te doen. 

Bekende merken kunnen digitale modellen creëren voor een marketingcampagne. Soms als gelijkenis van een bekend persoon, maar soms ook volledig nieuw geboren. Bekijk hier het voorbeeld van Bruce Willis als deepfake. Dit leverde hem $1,5 miljoen op. 

Volledig virtuele beroemdheden

Er zijn nu al volledig virtuele digitale beroemdheden. Beroemdheden die nooit in een vorm van vlees en bloed hebben bestaan. Denk aan Lil’ Miquela, een digitale beroemdheid die op Instagram inmiddels bijna drie miljoen volgers heeft. En dit soort virtuele influencers kosten niets, want ze hoeven geen gage te ontvangen, wonen nergens, eten niets, hebben geen reiskosten, hebben geen partners en kinderen, geen scheidingsperikelen, geen eigen moreel kompas,  geen alimentatie, worden nooit ziek en blijven eeuwig jong. En als ze hun populariteit verliezen, kun je ze gewoon deleten.

Iedereen zijn eigen avatar

Zo gewoon als dat het nu is om een e-mailadres en telefoonnummer te hebben, kan dat in de toekomst opgaan voor avatars. Iedereen kan zijn of haar eigen versie of versies laten maken. In het onderwijs zullen er voor dit soort technologieën legio toepassingen zijn. Docent-avatars kunnen klassen toespreken. Het wordt zelfs mogelijk overleden denkers, kunstenaars en politici virtueel tot leven te wekken. Een college van Albert Einstein, een masterclass van Salvador Dali, een toespraak van Nelson Mandela, alles is mogelijk. Geen tijd om voorafgaand aan een Zoom-call met collega’s je haar en make-up te doen? Je avatar-filter zorgt voor een perfecte weerspiegeling van jou op hun beeldscherm. Microsoft laat geanimeerde avatars zien waarmee je je kunt aankleden/ beschermen in je MS Teams vergadering. Je bent dan niet zichtbaar als jezelf, maar als een soort cartoon-personage. (Ps: even een zijspoor; hierr ben ik toch wat dubbel over. Ik snap dat het leuk en grappig kan zijn en dat het fijn is dat je niet iedere keer jezelf hoeft op te poetsen voor een vergadering. Maar wanneer mensen zich gaan ‘verbergen’ achter een animatie-avatar zorgt dat wellicht voor onzekerheid bij anderen. Je mist daardoor connectie? Je mist bijv. ook micro-expressies in het gezicht van elkaar. Mocht je onverzorgd achter je camera plaats willen nemen, dan kun je toch ook even je camera uitzetten? En wat is er eigenlijk mis mee dat je niet helemaal opgepoetst bent? We zijn allemaal mensen. En wat doet het trouwens met onze perceptie van ‘de ander’ wanneer deze steeds vaker een virtuele representatie is, een avatar? Wat als je nooit te weten komt hoe je nieuwe collega er nou in het echt uitziet? Is dat erg? Nou ja.. zomaar wat gedachten. Straks meer van dit soort ethische overwegingen).

Fotomodellen in webshops van modemerken zullen online steeds vaker digitaal gecreëerd zijn. Dat levert voor bedrijven een enorme kostenbesparing op in vergelijking met traditionele fotoshoots.

In de muziekindustrie zullen stemmen en verschijningsvormen van artiesten gekopieerd en gekloond worden. Zo zal er een volledig nieuwe database van nieuwe synthetische muziek ontstaan. Mogelijk met kersverse nummers van Freddy Mercury of Amy Winehouse, misschien zelfs in een andere taal. Cartoon serie ‘The Simpsons’ kan voor altijd blijven voortbestaan. Ook nu de stemacteurs richting de pensioengerechtigde leeftijd gaan. 

Wil je meer weten over dit soort technologische ontwikkelingen, inclusief ethische overwegingen? Schrijf je dan in voor mijn nieuwsbrief en ontvang mijn 5 tech-boeken gratis.

Ethische vragen

Er zijn enorm veel mogelijkheden en voordelen te bedenken die avatars ons bieden, maar er zijn ook risico’s en nadelen. Bovendien roepen dit soort digitale mensen veel ethische vragen op. Ik noem er vijf.

1. Valse verwachtingen

Allereerst is het belangrijk te noemen dat het creëren van digitale mensen ook valse verwachtingen kunnen scheppen.

Dat zit ‘m allereerst al in de naam waarmee we deze virtuele mensverschijningen vaak typeren. ‘Digitale mensen’ is een makkelijke benaming, maar doet echt geen recht aan het product. Een mens heeft een lijf, meerdere vormen van intelligentie, emoties en een bewustzijn. Een digitale mens is een chatbot met een menselijke interface. Om avatars, digitale mensverschijningen een ‘mens’ te noemen gaat echt te ver wat mij betreft.

Consumenten, burgers kunnen ook door de levensechte verschijningsvorm onterecht verwachten dat kunstmatig intelligente software dusdanig kwalitatief hoogwaardig is, dat avatars mensen volledig kunnen vervangen. Het uiterlijk kan echter bedrieglijk zijn. Avatars zien er aan de buitenkant misschien volstrekt geloofwaardig uit, maar zijn anno 2021 in de praktijk nog niet in staat een uitgebreid gesprek te voeren, laat staan een kletspraatje te voeren of een vorm van persoonlijke bespiegeling te bezitten.

Ook kunnen ze niet inspringen op de actualiteit van de dag of vaak iets goed onthouden. Wanneer een patient bijvoorbeeld een geheim vertelt aan een digitale mensverschijning, weet de software dat een week later nog? Stuurt ‘ie 2 dagen nog even een appje met ‘hoe gaat het’? Waarschijnlijk niet. Niet op korte termijn in ieder geval. Bovendien zullen dit soort systemen slechts uitvoeren waarvoor de makers ze geprogrammeerd hebben.

De MetaHuman van Unreal Engine baarde een tijdje geleden opzien door haar hyperrealistische menselijke verschijningsvorm. Maar op de Unreal website werd niet verteld dat de menselijke stem van de avatar in het promotiefilmpje gewoon van een stemacteur was. In de video van Makers van dit soort software moeten dus alert zijn op het creëren van deze valse verwachtingen door hun hyperrealistische weergave en eerlijk zijn over wat de software wel en niet kan. 

2. Grens tussen echt en nep

De vraag zou ook kunnen zijn: hoe realistisch hoeft het eigenlijk te zijn? Is een klein verschil (onderscheid tussen digitaal en echte mensen) niet gezond om de grens tussen echt en nep te kunnen blijven maken? Waarom moet het hyperrealistisch?

In het geval van avatars is het volgens mij belangrijk consumenten, gebruikers, burgers duidelijk te laten weten dat ze niet communiceren met een mens van vlees en bloed, maar met een digitaal persoon die niet echt bestaat. Het is wenselijk dat er een melding of waarschuwing wordt getoond. Anders kan het misschien verwarrend zijn. Vooral kinderen en ouderen zijn waarschijnlijk heel gevoelig voor beïnvloeding. Dat zie je al met de digitale spraakassistent Alexa. Niet iedereen is even goed in staat het onderscheid te maken tussen een digitaal en een gewoon mens. Zeker nu de scheidslijn tussen echt en nep steeds dunner wordt, naarmate de technologie zich razendsnel ontwikkelt. 

3. Gevoelens

Een ander ethisch dilemma ontstaat wanneer mensen vriendschappelijke gevoelens ervaren in het contact met digitale mensen. Dat is geen gekke gedachte. Er zijn immers veel mensen die gevoelens van liefde, sympathie en hechting ervaren met een teddybeer, een pop, een heiligenbeeldje. Ze zien deze objecten als medemensen, iets wat trouwens ook heel herkenbaar is in de omgang met huisdieren. Hier doet zich heel vaak het verschijnsel van antropomorfisme voor: het toekennen van menselijke eigenschappen aan niet-menselijke wezens en voorwerpen. Het gevolg is dat deze benaderd of behandeld worden alsof ze menselijk zijn qua vorm, karakter of gedrag. In het geval van avatars werkt dat nog sterker. In de eerste plaats lijken ze in alles op een echt mens. In de tweede plaats hebben mensen soms niet eens door dat ze te maken hebben met iets wat niet meer is dan door de computer gegenereerde beelden en klanken.

Dat roept de vraag op: is het ervaren van hechting met een digitale mens nuttig? Of schadelijk? Bijvoorbeeld voor oudere mensen om toch nog een vorm van menselijk contact te hebben, wanneer ze anders eenzaam zijn? Wat is beter: eenzaamheid of de illusie van gezelschap? Is contact met een digitaal mens wenselijk of hebben mensen het recht op waarachtig menselijk contact, zeker in de zorg? Het risico bestaat dat de permanente aanwezigheid van een digitale persoonlijke assistent ertoe leidt dat ouderen de deur niet meer uitgaan om anderen te ontmoeten. Hun behoefte aan menselijk contact’ is immers al vervuld? Of loopt dat zo’n vaart niet? Moet je bij het willen creëren van persoonlijk contact in de zorg (middels software) het niet gewoon houden bij een ‘praatpaal’ zoals Amazon Alexa?  

Nog een stap verder: in de toekomst zijn dit soort digitale mensen misschien dermate geloofwaardig, dat de gebruiker gevoelens van verliefdheid ervaart. Met alle gevolgen van dien als het contact ongewild of plotseling wordt verbroken (door diefstal, defect of stroomstoring). Wat vinden we daar eigenlijk van? 

4. Minder menselijk contact

Als we uitzoomen om naar het groter geheel te kijken, rijst de vraag of het nodig is nog meer menselijk face-to-face contact uit te besteden aan digitale mensen. We hebben door de digitalisering, smartphone, internet, MS Teams, Zoom, sociale media al steeds minder contact in de fysieke ruimte, met anderen om ons heen. Moeten we nu nog meer dergelijke momenten en mogelijkheden verliezen? Wat doet dit met de onderlinge verbondenheid? Met het gevoel dat we onderdeel zijn van iets groters? 

Daarbij wijs ik graag op een niet onbelangrijk aspect: veel menselijke interactie is niet in waarde uit te drukken, laat staan eenvoudig te vervangen. Uit onderzoek blijkt bijvoorbeeld dat het genezingsproces veel sneller verloopt wanneer patiënten veel contact met lotgenoten en ziekenhuispersoneel hebben. Gezelschap, belangstelling en persoonlijk contact verrijkt het leven. De vraag is of avatars dat ooit zullen kunnen. En of we dat moeten willen. Daar moeten we streng zijn denk ik. 

 

De digitale huisarts

Nog een voorbeeld: wanneer een patient contact opneemt met een ‘digital human’ huisarts dan reduceer je het contact tussen patient en huisarts tot verbale communicatie. Terwijl; er is zoveel meer. De ene patient heeft bij benauwdheidsklachten een pufje nodig terwijl de tweede patient met dezelfde klachten eigenlijk met spoed naar het ziekenhuis zou moeten. Kan de ‘digitale huisarts’ dat bieden?

Natuurlijk zie ik ook de mogelijkheden en kansen van digitale mensen om communicatie laagdrempelig te maken. Ik zie ook de tekorten in de zorg en onderwijs. Maar het zou zonde zijn dat we over 10 jaar ontdekken dat we iets door onze vingers hebben laten glippen wat achteraf heel waardevol bleek te zijn.

En niet onbelangrijk: door deze route te kiezen: “digitale mensen”; beperkt dat niet onze creativiteit om naar andere oplossingen te zoeken? Waarom moet het steeds digitale mensen zijn? Moeten we iets gaan kopiëren wat juist zo uniek, helend, verrijkend is als het menselijk contact? Moeten we daar niet gewoon bij uit de buurt blijven? Nogmaals: Kies desnoods een anonieme chatbot. Kun je bijvoorbeeld in de zorg niet meer automatiseren in de administratie of administratie laten vervallen zodat verpleegkundigen meer en vaker aan het bed kunnen zijn? 

Wanneer we steeds met digitale mens-verschijningen communiceren, en deze worden steeds beter en beter… Wat doet dat met de uiteindelijke perceptie van elkaar en onszelf?

(tekst loopt door onder afbeelding)

Wat klanten zeggen

"Voor de eerste editie van ons online digital marketing event bij Achmea heeft Jarno een lezing gegeven over synthetische media en deepfakes. Jarno brengt met veel energie de boodschap over en maakt het onderwerp erg toegankelijk, ook voor collega’s die weinig digital kennis hebben. Met behulp van sprekende voorbeelden word je helemaal meegenomen in de wereld van deze nieuwe technologie."
Kimberley van Hulst
Digital Marketeer Achmea
Kimberley van Hulst
"Jarno heeft bij de HKU een lezing verzorgd over Synthetische Media: Kunstmatige creativiteit. Jarno liet aan de hand van vele voorbeelden zien wat er in de fascinerende wereld van deepfakes allemaal mogelijk is. Interessant en beangstigend tegelijkertijd, en genoeg stof tot nadenken. Zijn lezing werd met veel enthousiasme ontvangen."
Marjoleine Gadella
Coördinator Evenementen bij HKU
Marjoleine Gadella

5. Digitale onsterfelijkheid

Ten slotte is er het punt van digitale (on)sterfelijkheid. Wanneer we in staat zijn onze eigen of andermans verschijningsvorm te digitaliseren en stemmen te klonen, wordt digitale onsterfelijkheid een plausibel scenario. Iemands avatar kan blijven bestaan, ook nadat de fysieke versie’ is overleden. Het is dus nu al technisch mogelijk dat iemands digitale kopie zijn of haar achterkleinkinderen over 100 jaar een verhaaltje voorleest. Het enige wat daarvoor nodig is, is bij wijze van spreken een toetsenbord en een beeldscherm. (Dat heb ik me ook gerealiseerd bij het maken van mijn eigen deepfake look-a-like kloon). 

Dat roept een interessante vraag op: hoe gaan we om met de digitale erfenis van overledenen? Mag ik videomateriaal van mijn overleden familieleden gebruiken om daar een nieuwe deepfake-film mee te maken? Mag ik hun stem gebruiken om nieuwe audio op te nemen? Ze hebben daar geen toestemming voor gegeven, maar is het gewoon te beschouwen als een aanvulling op bestaand foto- en videomateriaal? Of is het toch van een andere orde? Er zouden zaken kunnen worden uitgebeeld waar de overledene nooit mee zou instemmen en die zijn of haar nagedachtenis ernstig aantasten en veranderen. 

Het kan zelfs zijn dat avatars het proces van afscheid nemen en rouwverwerking in de weg staan. Wordt iemand als echt dood beschouwd als hij of zij maar aanwezig blijft als pseudo-levende verschijning? Of is het juist andersom: dat gevoelens van rouw sneller verwerkt kunnen worden wanneer we nieuwe media kunnen creëren op basis van bestaande video- of geluidsopnames? 

Om daar even op voor te borduren: Is het verstandig dat ik in mijn testament laat opnemen dat ik niet gekloond of gekopieerd wil worden in de toekomst? Dat zijn vragen die we ons nu moeten stellen, de technologie is er immers nagenoeg rijp voor. Uitgangspunt van deze hele discussie zou dan kunnen zijn: met het creëren van digitale mensen, rommelen we dan niet teveel met de menselijke identiteit?  

Wil je meer weten over dit soort technologische ontwikkelingen, inclusief ethische overwegingen? Schrijf je dan in voor mijn nieuwsbrief en ontvang mijn 5 tech-boeken gratis.

In de media over dit onderwerp:

Jarno Duursma Avatar

In een studio heb in een avatar van mijzelf laten maken. Het resultaat is een avatar die in verschijningsvorm uitzonderlijk sterk op mij lijkt. Het enige wat ik hoef te doen is een stuk tekst typen op een toetsenbord en een kwartier later heb ik een presentatievideo. Zeker wanneer ik mijn eigen stemopname upload in het programma, is de scheidslijn tussen mijzelf en de digitale avatar erg dun, maar mijn voice kloon werkt ook goed.  Ik heb deze avatar laten maken, omdat ik graag wil experimenteren met nieuwe technologie. Verder was ik nieuwsgierig waartoe de technologie al in staat is. Bovendien heb ik in het licht van de coronapandemie geprobeerd om mijzelf te digitaliseren, te vermenigvuldigen en te schalen. Misschien dat ik zo in de toekomst op meerdere plekken tegelijkertijd een lezing kan geven. Ik kan nu dus heel makkelijk een video van mezelf maken als presentator. 

Hoewel het ongekend makkelijk was een video van mijzelf als avatar-presentator te maken, zie je na twee minuten kijken duidelijk het verschil tussen de mens van vlees en bloed en de digitale versie. De avatar is allereerst gewoon te saai om langdurig naar te kijken. Te weinig variatie. En het is nog niet feilloos in de synchronisatie van gezichtsexpressie, beweging van lippen en stem. De technologie staat is nog niet perfect. Maar zelfs als de technologie geperfectioneerd wordt, vraag ik me af of er een echte connectie, een ware klik kan ontstaan met de toeschouwer. Is een avatar-spreker werkelijk in staat een zaal in vervoering te brengen? Mee te nemen in zijn enthousiasme? In te spelen op gevoelens en reacties in de zaal? Humor of begrip te tonen als zich onverwachtse zaken voordoen? Dat zijn belangrijke eigenschappen van een goede spreker. Het raakt ook aan de kern van het menszijn en het is de eeuwige vraag in hoeverre de toekomstige technologie in die dimensie kan doordringen.

NB: Dank aan Siri Beerends van Setup voor het meedenken!

Geselecteerde Blog

Creating a look-a-like digital deepfake avatar

Creating a look-a-like digital deepfake avatar

I made a look-a-like deepfake digital avatar of myself. in this blog you can read what I did and why I did it. What I like and still needs improvement.

Are you interested in digital avatars? Then this blog is definitely worth your time.

Lees verder