Virtuele influencers

We naderen een tijdperk waarin kunstmatig intelligente generatieve systemen creëren. Geloofwaardig hyperrealistische gezichten, driedimensionale steden, leesbare teksten en geloofwaardige audio. Hierdoor ontstaan nieuwe invalshoeken en ideeën. Deze generatieve technologie zorgt er ook voor dat de scheidslijn tussen authentiek en nep steeds dunner wordt. Ruim baan voor virtuele influencers.

En dat niet alleen: deze technologie kan ook worden misbruikt, zoals in het geval van deepfakes, waarmee op grote schaal nep-informatie wordt verspreid. Een kunstmatig intelligent systeem kan teksten, beelden, video’s en audio-opnames creëren om ons te misleiden.

Siri Beerends, Cultuursocioloog bij SETUP, houdt zich actief bezig met de relatie tussen technologie en mens. Ik vroeg haar kijk op deze synthetische wereld en de opkomst van virtuele influencers.

Source: instagram.com

 

Virtuele influencers en deepfake technologie.

Wanneer ik iets hoor over deepfake technologie komt het mij in de meeste gevallen over als problematisch. Kun je echt en nep nog van elkaar onderscheiden? En voedt deze technologie niet het algehele wantrouwen wat er al is ten aanzien van nieuws? Ik maak me soms zorgen dat mensen in de samenleving onverschillig worden ten aanzien van nieuws. Dat ze denken “ik kan toch niet meer zien of iets echt of nep is dus het interesseert me niet meer”. Het moderne leven is voor velen al best veeleisend en ik vraag me af of mensen nog wel moeite gaan doen om zichzelf mediawijs te maken.

Mijn ervaring is dat mensen op dit vlak vaak passiever zijn dan ik graag zou willen. De vraag is ook: willen mensen wel mediawijs zijn? Want daarmee creëren ze ook een verantwoordelijkheid om kritischer te worden in hun media consumptie. Ik hoop dus ten zeerste dat deepfake technologie en synthetische media ervoor gaan zorgen dat mensen zich meer bewust worden van manipulatieve technieken in de media, maar ik weet het niet zeker.

Source: instagram.com

Virtuele influencers: de authenticiteit van nep

Ik zie overduidelijk dat virtueel en realiteit in elkaar versmelten; dat zaken uit de fysieke wereld en de digitale wereld versmelten. Er komen bijvoorbeeld steeds meer virtuele influencers op de markt. Wij van de huidige volwassen generatie maken nog een onderscheid tussen analoog versus digitaal en echt versus nep. Hoe zal dat zijn voor de jongere generatie? En: is het voor hen nog relevant?

Deze virtuele influencers zijn een goed voorbeeld van ‘de authenticiteit van nep’. Het is voor het publiek glashelder dat ze synthetisch, digitaal gecreëerd zijn en dat is in hun ogen dan authentieker dan sommige online influencers van vlees en bloed. Sommigen van deze mensen zijn namelijk heel uitgekookt, sluw en manipulatief in hun pogingen om zo authentiek mogelijk over te komen. Zij veinzen dan bijvoorbeeld hun persoonlijke kwetsbaarheden en emoties. Ik denk dat de jongere generatie wel gecharmeerd is van Virtuele influencers omdat ze 100% openlijk nep zijn. Echte mensen van vlees en bloed zijn bezig met Photoshop of je ziet slechts de allerbeste foto van tweeëntachtig geschoten exemplaren. ‘De authenticiteit van nep’ maakt een Virtuele influencer erg interessant en ik verwacht dat de populariteit van Virtuele influencers zal toenemen.

 

 

Maar je laat je ook wel kritisch uit over deze ontwikkeling. Kun je daar iets meer over vertellen?

Ik verdiep mij al langere tijd in het ‘surveillance kapitalisme’. Een ontwikkeling waarbij bedrijven data verzamelen waarmee ze ons gedrag sturen, zodat ze betere gedragsvoorspellingen aan commerciële bedrijven kunnen verkopen. Wanneer ik kijk naar virtuele influencers dan zie ik vooral het verdienmodel van commerciële bedrijven waarbij mensen als grondstof worden gebruikt om reclame-inkomsten te genereren en artificiële intelligentie van techbedrijven te trainen. Wij zijn het product dat data genereert en bedrijven proberen met de informatie uit onze data ons gedrag te beïnvloeden. De mogelijkheden van de digitale wereld zijn hierin veel krachtiger dan ze ooit in de fysieke wereld zijn geweest.

Kun je dat concreet maken? 

Tuurlijk, wanneer je kunt chatten met een ‘ouderwetse’ beroemdheid via internet, dan kan deze persoon van vlees en bloed maar één gesprek tegelijkertijd voeren en er worden dan ook geen voorspellingen over jouw gedrag doorverkocht. Bij een digitale variant van een virtuele influencer, kan zo’n programma wel tienduizend gesprekken tegelijkertijd voeren. Deze gesprekken leveren natuurlijk enorm veel data op dat het bedrijf vervolgens weer kan gebruiken. Het feit dat technologiebedrijven zoveel data van ons kunnen afplukken om voorspellingen te doen over ons gedrag en wat wij waarschijnlijk leuk vinden, creëert een onevenwichtige machtsbalans. Daar maak ik me zorgen om. Dat aan de buitenkant iets ’gewoon een gesprek met een digitale beroemdheid’ lijkt, maar dat bedrijven uit deze gesprekken informatie proberen af te leiden. Informatie die overigens totaal niet hoeft te kloppen met de werkelijkheid.

Het data-gedreven sturen van ons gedrag en onze smaakvoorkeuren maakt technologiebedrijven steeds machtiger. Algoritmen analyseren onze data en plaatsen ons vervolgens in simpele categorieën en stereotyperende hokjes. Als jij bijvoorbeeld veel woorden gebruikt waaruit blijkt dat je rapmuziek leuk vind, plaatst het algoritme jou in het hokje ‘politiek conservatief’. Vervolgens krijg je alleen maar content aangeboden die politiek conversatief is. Ja, dan kun je inderdaad politiek conservatief wórden. Niet omdat ‘het bedrijf alles over je weet’ of ‘omdat het algoritme jou beter kent dan je beste vriend’, maar omdat het algoritme ervoor zorgt dat je een bepaalde kant op wordt geduwd, waardoor de voorspelling een waarheid wordt. Zo’n voorspelling werkt dus als een selffulfilling prophecy, iets wat maar weinig mensen op hun radar hebben staan maar wel heel belangrijk is.

 

Boek Jarno als spreker

 

Waar zie je de oplossingen?

Allereerst natuurlijk dat mensen zich meer bewust worden van het feit dat techbedrijven data gebruiken om informatie af te leiden. En dat deze afgeleide informatie (de simpele hokjes en categorieën waar algoritmen ons in plaatsen) helemaal niets zegt over wie jij bent, maar ondertussen wel wordt gebruikt om jouw smaakvoorkeuren en gedrag te sturen. Ook vind ik dat consumenten vaker mogen nadenken over een nieuwsbron. Over de persoon of organisatie die bepaalde informatie verspreidt: wat is hun doelstelling, motief? Ik zou dus willen dat mensen wat meer mediawijs zouden zijn. Ook vind ik dat we moeten nadenken over de rol van technologie om deze technologische trend te tackelen. Is meer technologie de beste oplossing?

Ik vind het bijvoorbeeld niet meer dan terecht dat we over anti-deepfake software best nog wel even kritisch mogen zijn. Hoe komt deze software tot stand? Welke data wordt gebruikt? Kun je beslissingen herleiden?

En niet te vergeten: hoe detecteren we dan valse anti-deepfake software? Software dat claimt deepfakes te herkennen, maar dat ondertussen niets doet of een computervirus installeert. Dit soort software zal er zeker komen. Je hebt anno 2019 ook heel veel programma’s die beweren computervirussen, malware en andere infecties te voorkomen maar zijn tegelijkertijd juist de verspreider ervan. Hoe zal dat gaan met nep anti-deepfake software?

 

"Het verhaal van Jarno werd zeer positief ontvangen en het helpt mij als manager om samen met mijn collega’s op zoek te gaan naar de kansen die de digitale transformatie ons te bieden heeft. Wat mij betreft is er geen strijd tussen mens en machine. Het is de kunst om als mens mét machine intelligenter te worden. Jarno heeft ons wakker geschud. Dank!"
Cesar Blaauwgeers
Landelijk teammanager Data & Informatie, Antea Group
Cesar Blaauwgeers
"Jarno was de afsluitende gastspreker op onze klantendag. Hij gaf een vlotte presentatie met praktische voorbeelden van technologieën die soms nog wat ongrijpbaar lijken. Het was voor ons belangrijk dat onze klanten zich goed in konden beelden hoe zij nieuwe technologieën zouden kunnen toepassen in hun eigen business. Daar is Jarno zeker in geslaagd. Het was een informatieve, interessante, maar ook vermakelijke afsluiting van de dag. Bedankt!"
Veronique van Rosmalen
MySolution
Veronique van Rosmalen

Waarom Jarno?

Waarom zou je voor Jarno kiezen als spreker? Lees het blog: Dan lees je de 8 redenen om voor Jarno als spreker te kiezen. Klik op de knop hieronder.

Waarom Jarno?

Meer weten over Jarno? Wie hij is? Wat hij doet? Klik dan op de onderstaande knop.

Over mij