Virtuele influencers: de authenticiteit van nep
Ik zie overduidelijk dat virtueel en realiteit in elkaar versmelten; dat zaken uit de fysieke wereld en de digitale wereld versmelten. Er komen bijvoorbeeld steeds meer virtuele influencers op de markt. Wij van de huidige volwassen generatie maken nog een onderscheid tussen analoog versus digitaal en echt versus nep. Hoe zal dat zijn voor de jongere generatie? En: is het voor hen nog relevant?
Deze virtuele influencers zijn een goed voorbeeld van ‘de authenticiteit van nep’. Het is voor het publiek glashelder dat ze synthetisch, digitaal gecreëerd zijn en dat is in hun ogen dan authentieker dan sommige online influencers van vlees en bloed. Sommigen van deze mensen zijn namelijk heel uitgekookt, sluw en manipulatief in hun pogingen om zo authentiek mogelijk over te komen. Zij veinzen dan bijvoorbeeld hun persoonlijke kwetsbaarheden en emoties. Ik denk dat de jongere generatie wel gecharmeerd is van Virtuele influencers omdat ze 100% openlijk nep zijn. Echte mensen van vlees en bloed zijn bezig met Photoshop of je ziet slechts de allerbeste foto van tweeëntachtig geschoten exemplaren. ‘De authenticiteit van nep’ maakt een Virtuele influencer erg interessant en ik verwacht dat de populariteit van Virtuele influencers zal toenemen.
Maar je laat je ook wel kritisch uit over deze ontwikkeling. Kun je daar iets meer over vertellen?
Ik verdiep mij al langere tijd in het ‘surveillance kapitalisme’. Een ontwikkeling waarbij bedrijven data verzamelen waarmee ze ons gedrag sturen, zodat ze betere gedragsvoorspellingen aan commerciële bedrijven kunnen verkopen. Wanneer ik kijk naar virtuele influencers dan zie ik vooral het verdienmodel van commerciële bedrijven waarbij mensen als grondstof worden gebruikt om reclame-inkomsten te genereren en artificiële intelligentie van techbedrijven te trainen. Wij zijn het product dat data genereert en bedrijven proberen met de informatie uit onze data ons gedrag te beïnvloeden. De mogelijkheden van de digitale wereld zijn hierin veel krachtiger dan ze ooit in de fysieke wereld zijn geweest.
Kun je dat concreet maken?
Tuurlijk, wanneer je kunt chatten met een ‘ouderwetse’ beroemdheid via internet, dan kan deze persoon van vlees en bloed maar één gesprek tegelijkertijd voeren en er worden dan ook geen voorspellingen over jouw gedrag doorverkocht. Bij een digitale variant van een virtuele influencer, kan zo’n programma wel tienduizend gesprekken tegelijkertijd voeren. Deze gesprekken leveren natuurlijk enorm veel data op dat het bedrijf vervolgens weer kan gebruiken. Het feit dat technologiebedrijven zoveel data van ons kunnen afplukken om voorspellingen te doen over ons gedrag en wat wij waarschijnlijk leuk vinden, creëert een onevenwichtige machtsbalans. Daar maak ik me zorgen om. Dat aan de buitenkant iets ’gewoon een gesprek met een digitale beroemdheid’ lijkt, maar dat bedrijven uit deze gesprekken informatie proberen af te leiden. Informatie die overigens totaal niet hoeft te kloppen met de werkelijkheid.
Het data-gedreven sturen van ons gedrag en onze smaakvoorkeuren maakt technologiebedrijven steeds machtiger. Algoritmen analyseren onze data en plaatsen ons vervolgens in simpele categorieën en stereotyperende hokjes. Als jij bijvoorbeeld veel woorden gebruikt waaruit blijkt dat je rapmuziek leuk vind, plaatst het algoritme jou in het hokje ‘politiek conservatief’. Vervolgens krijg je alleen maar content aangeboden die politiek conversatief is. Ja, dan kun je inderdaad politiek conservatief wórden. Niet omdat ‘het bedrijf alles over je weet’ of ‘omdat het algoritme jou beter kent dan je beste vriend’, maar omdat het algoritme ervoor zorgt dat je een bepaalde kant op wordt geduwd, waardoor de voorspelling een waarheid wordt. Zo’n voorspelling werkt dus als een selffulfilling prophecy, iets wat maar weinig mensen op hun radar hebben staan maar wel heel belangrijk is.
Boek Jarno als spreker
Waar zie je de oplossingen?
Allereerst natuurlijk dat mensen zich meer bewust worden van het feit dat techbedrijven data gebruiken om informatie af te leiden. En dat deze afgeleide informatie (de simpele hokjes en categorieën waar algoritmen ons in plaatsen) helemaal niets zegt over wie jij bent, maar ondertussen wel wordt gebruikt om jouw smaakvoorkeuren en gedrag te sturen. Ook vind ik dat consumenten vaker mogen nadenken over een nieuwsbron. Over de persoon of organisatie die bepaalde informatie verspreidt: wat is hun doelstelling, motief? Ik zou dus willen dat mensen wat meer mediawijs zouden zijn. Ook vind ik dat we moeten nadenken over de rol van technologie om deze technologische trend te tackelen. Is meer technologie de beste oplossing?
Ik vind het bijvoorbeeld niet meer dan terecht dat we over anti-deepfake software best nog wel even kritisch mogen zijn. Hoe komt deze software tot stand? Welke data wordt gebruikt? Kun je beslissingen herleiden?
En niet te vergeten: hoe detecteren we dan valse anti-deepfake software? Software dat claimt deepfakes te herkennen, maar dat ondertussen niets doet of een computervirus installeert. Dit soort software zal er zeker komen. Je hebt anno 2019 ook heel veel programma’s die beweren computervirussen, malware en andere infecties te voorkomen maar zijn tegelijkertijd juist de verspreider ervan. Hoe zal dat gaan met nep anti-deepfake software?
