GAN-technologie en deepfakes [Bennie Mols]

Voor mijn rapport ‘Machines met verbeeldingskracht’, heb ik veel interessante mensen gesproken, bij wie de ontwikkelingen van kunstmatig intelligentie (AI) invloed heeft op hun werk. Neem de Generative Adversarial Networks, oftewel GAN’s; een cutting-edge toepassing van AI. Want, op basis van voorbeelden uit: tekst, audio, foto of video, is een GAN in staat zelf nieuwe content te creëren. Een fascinerende ontwikkeling. Ik sprak hierover met wetenschaps- en techniekjournalist, auteur en spreker Bennie Mols. Hoe kijkt hij aan tegen GAN-technologie en deepfakes vanuit zijn rol als journalist?

Hoe kijk jij aan tegen GAN technologie?

Als wetenschapsjournalist in het digitale domein volg ik al heel lang de vernieuwingen op het gebied van artificiële intelligentie. Ik vind de ontwikkeling van GAN-technologie bijzonder interessant. Het feit dat kunstmatig intelligente systemen zelfstandig beelden, geluiden en teksten kunnen produceren is enorm opwindend. Machines krijgen nu een vorm van verbeeldingskracht.

Ik ben daarbij met name geboeid door het gebied waar mens en machine elkaar kunnen versterken. Ik heb bijvoorbeeld al hele interessante voorbeelden gezien waar bijvoorbeeld GAN-technologie wordt gebruikt voor het ontdekken van nieuwe, efficiëntere zonnecellen of batterijen. De software bedenkt nieuwe mogelijkheden waar de mens zelf helemaal niet aan had gedacht. Vervolgens onderzoekt de mens welke daarvan wel of niet goed werken.

Wat zijn de voordelen van GAN Technologie?

Die zijn er zeker! Het gebruik van deze digitale technologie creëert bijvoorbeeld een enorme versnellingsstap in het bedenken en testen van nieuwe producten. En dat niet alleen: vergeet niet dat wij als mensen ook een beperkt denkkader hebben. Onze manier van kijken naar problemen en oplossingen zit vol met vooroordelen. Een machine hoeft deze vooroordelen niet te hebben en kan dus vrijuit nieuwe dingen bedenken. Neem bijvoorbeeld de supermenselijke go-computer AlphaGo. AlphaGo deed in 2016 enkele zetten waarvan de beste menselijke spelers dachten dat het domme zetten waren, maar het bleken geniale zetten te zijn die menselijke vooroordelen over het go-spel genadeloos blootlegden.

Ik kan me goed voorstellen dat in de farmacie en de materiaalkunde deze technologie gebruikt gaat worden om veelbelovende moleculen te bedenken en produceren. Die nieuwe ideeën kun je dan in het laboratorium gaan testen. Stel dat er van de dertig suggesties die de computer bedenkt vijf hele goede oplossingen bijzitten. Dat versnelt het doen van nieuwe ontdekkingen.

Op een meer fundamenteel niveau vind ik deze technologie veelbelovend omdat er een nieuw hoofdstuk geschreven lijkt te worden op het gebied van unsupervised learning. Waar kunstmatig intelligente systemen op dit moment vooral getraind worden met gelabelde data, het zogenoemde supervised learning, kun je GAN-technologie gebruiken om computers te laten leren van ongelabelde, ongestructureerde data.

Kun je daar een voorbeeld van noemen?

Nou, denk bijvoorbeeld aan een GAN-systeem dat zelf een volledige simulatie creëert van een driedimensionale wereld. Vervolgens kan bijvoorbeeld een zelfrijdende auto deze nieuwe simulatie gebruiken als trainingsmateriaal. Het GAN-systeem kan dan onnoemelijk veel denkbeeldige scenario’s creëren waar de software van de zelfrijdende auto vervolgens mee om moet leren gaan. GAN-systemen kunnen dus heel goed simulaties maken waar andere slimme machines van kunnen leren.

Door deze grote hoeveelheid nieuw leermateriaal hoop ik eigenlijk dat robots en zelfrijdende auto’s veel beter gaan snappen hoe onze omgeving eruit ziet. Dat ze zelf wetmatigheden in de fysieke wereld gaan ontdekken. Dat robots daardoor ook veel beter om kunnen gaan met situaties die niet vaak voorkomen.

Dat snap ik, maar hoe garanderen we dat dit nieuwe trainingsmateriaal lijkt op onze fysieke realiteit? Want wanneer een GAN systeem honderden uren videomateriaal per dag creëert waarvan sommige onderdelen buiten de realiteit staan en soms zelfs hallucinogeen te noemen zijn, hoe houden we daar als mens daar dan zicht op? 

Dat is inderdaad een interessante vraag. Kleine kinderen leren in de eerste paar jaren van hun leven om de wereld om hen heen te begrijpen in natuurkundige en psychologische modellen. Ze leren intuïtief hoe de zwaartekracht op voorwerpen inwerkt. Ze leren intuïtief de bedoelingen van andere mensen te begrijpen. Ik denk dat we in computers ook natuurkundige en psychologische modellen moeten bouwen waar GAN-systemen zich op gaan baseren. Idealiter zouden computers natuurlijk zelf zulke modellen moeten leren maken. De crux is dat computers niet alleen veel data nodig hebben om de wereld te begrijpen, maar ook modellen. Dat wordt in deze tijd van big data maar al te vaak vergeten.

Zulke natuurkundige of psychologische modellen werken dan als een soort scheidsrechter, een soort VAR voor de creaties van het GAN-systeem. De VAR houdt het GAN systeem in de gaten en waarschuwt wanneer een GAN iets bedenkt dat niet strookt met het natuurkundige of psychologische model van de omgeving.

Zo garanderen we dat GAN-systemen niet ongewild een loopje nemen met de werkelijkheid en onwenselijke of zelfs schadelijke dingen bedenken.

Je bent duidelijk enthousiast, maar heeft deze software ook beperkingen? 

Jazeker, die zijn er natuurlijk ook. Omdat de twee delen van de software, de generator en discriminator worden getraind met dezelfde dataset, krijg je eigenlijk altijd een mengeling van bestaande stijlen. Zo bedenkt een GAN nooit iets volkomen nieuws. Een GAN dat is getraind op foto’s van honden kan bijvoorbeeld wel een hond bedenken met een geheel nieuw, niet bestaand patroon van stippen, maar het bedenkt niet ineens een totaal nieuw dier.

Iets echt volkomen nieuws, ja zelfs iets geniaals bedenken, dat lukt deze machines nog niet. Picasso, Van Gogh en Dali bedachten een geheel nieuwe schilderstijl. Einstein bedacht geheel nieuwe natuurkunde. Zover zijn machines nog lang niet, behalve in hele beperkte domeinen als schaken of go. Voorlopig kunnen we machines heel goed gebruiken onze eigen creativiteit te verrijken: mens en machine die samen creatiever zijn dan elk van beide afzonderlijk.

Wat zie je dan vooral het domein van de mens in dit geheel?

Wat de mens bijvoorbeeld heel goed kan is om kennis uit verschillende domeinen te kunnen combineren in een ander domein. Denk bijvoorbeeld aan een muzikant die geïnspireerd is geraakt door een film en dat vertaalt in muziek. Of iemand die heel veel ervaring heeft op het gebied van tennis ook relatief makkelijk biljart kan spelen omdat hij of zij snapt hoe een bal zich verplaatst, hoeveel kracht je daarvoor nodig hebt en welke spin je aan een bal kunt geven. Een goed balgevoel komt in alle balsporten van pas.

Machine-intelligentie is als een laser: super krachtig, maar op een heel beperkt gebied. Menselijke intelligentie is meer als een gloeilamp: niet superkrachtig, maar het licht schijnt wel alle kanten op. De menselijke intelligentie is voorlopig nog algemener dan de machine-intelligentie.

Ook moet ik zeggen dat ik nog niet heel erg onder de indruk ben van dit soort GAN systemen als het gaat om genereren van teksten, zeker als het gaat om fictie. Ze kunnen simpele nep-nieuwsberichten maken, maar geen lange, consistente essays of verhalen. Om echt begrip te hebben van taal, moet je namelijk veel snappen van de wereld om ons heen. Dit soort machines kennen de betekenis, de context niet van de wereld om ons heen.

Hoe kijk je naar GAN-technologie en deepfakes vanuit je rol als journalist?

Als journalist maak ik me natuurlijk zorgen dat de scheidslijn tussen nep en echt steeds dunner wordt. Ik ben getraind om de kritisch naar nieuwsberichten te kijken, maar de gewone burger is dat natuurlijk veel minder. Die reageert wat sneller op emotioneel nieuws en zo verspreidt nepnieuws zich razendsnel op sociale media. We moeten ook niet doen alsof nepnieuws een nieuw fenomeen is. Het heeft altijd bestaan in de geschiedenis. Alleen zorgt nieuwe technologie ervoor dat het gemakkelijker te maken en te verspreiden is.

Dat je iedere vorm van content kunt manipuleren, staat voor mij als een paal boven water. Ik vind dat die constatering een direct appèl doet op ons als samenleving, maar ook op bedrijven en de sociale media. We moeten een soort digitale zonnebrandcrème voor deepfake ontwikkelen. En daarbij concreet werken aan oplossingen.

Hoe zie je dat voor je?

GAN-technologie gaat gebruikt worden om allerlei typen van verdraaide informatie te creëren. Dat wordt de nieuwe realiteit. Om ons daar tegen te wapenen zijn er op allerlei niveaus acties nodig.

Overheden en media zouden burgers bewust kunnen maken van het gemak waarmee desinformatie wordt gemaakt en verspreid. Burgers zelf moeten kritisch zijn op de informatie die ze tot zich nemen: wie is de afzender? is deze betrouwbaar? welk belang heeft deze afzender bij dat bericht? hoe speelt een bericht in op de emotie? En sociale media moeten hun verantwoordelijkheid nemen door de publicatie en verspreiding van desinformatie tegen te gaan. Ze kunnen zich al lang niet meer verschuilen achter de opvatting dat ze alleen maar een neutraal doorgeefluik zijn.

Deels gaat nieuwe technologie ons helpen het probleem van desinformatie te tackelen. Kunstmatig intelligente systemen moeten, net zoals spamfilters dat deden vanaf de jaren negentig, herkennen welke content ‘deepfake’ is en dat in onze browser blokkeren of zichtbaar markeren.

Maar het allerbelangrijkste is dat we wetgeving, normen en waarden en instituties nodig hebben die misbruik van technologie voorkomen. Dat is veel belangrijker dan de technologie zelf.

Het interessante is dat landen met de meest hoogwaardige technologie grofweg gezegd ook het hoogste scoren op democratie en mensenrechten. Dus je kunt niet zeggen dat technologie de boosdoener is. Mensen zijn veel gevaarlijker dan technologie. Nederland heeft veel meer geavanceerde technologie om burgers in de gaten te houden dan Noord-Korea. Maar onze wetgeving, normen en waarden en instituties zorgen ervoor dat die technologie daarvoor niet wordt gebruikt. Noord-Korea heeft veel minder hoogwaardige technologie, maar houdt haar burgers veel scherper in de gaten en produceert veel meer desinformatie. We moeten ons dus meer zorgen maken over wetgeving, normen en waarden en instituties dan om de technologie alleen.

Zie je hierin nog een rol voor traditionele journalistiek?

Jazeker, wanneer ik deze ontwikkeling van een afstand bekijk, zou het ook wel zo kunnen zijn dat gerenommeerde kranten juist meer waardering en autoriteit krijgen van het publiek dan sociale media. Juist omdat de lezer de redactie van zo’n krant vertrouwt als een baken van feitelijkheden binnen de grote hoeveelheid van desinformatie. Hoe moeilijker het wordt om snel in te schatten of de content zelf betrouwbaar is, hoe belangrijker het wordt om de afzender van de content te kunnen vertrouwen. Ook zou het wel eens kunnen zijn dat voor ons de offline wereld weer belangrijker wordt omdat de vervuiling in de online wereld groter is.

Als je kijkt naar het jaar 2030 door de lens van GAN technologie, hoe ziet de wereld er dan uit?

In het komende decennium gaan we met vallen en opstaan leren hoe we ons moeten wapenen tegen ‘deep fake’, zoals we dat ook hebben gedaan met spam in onze e-mail. Ik denk dat we vooral de vruchten gaan plukken van de mooie en interessante mogelijkheden die GAN-technologie te bieden heeft. Ik noemde al even de voorbeelden uit de wetenschap voor het ontdekken van nieuwe moleculen. Maar denk ook aan kunstenaars, modeontwerpers en game-ontwerpers. En ik verwacht veel van de nieuwe mogelijkheden van robots om onze fysieke wereld te snappen omdat GAN-systemen heel veel trainingsmateriaal voor hen kunnen produceren. In de afgelopen tien jaar zijn machines goed geworden in het herkennen van patronen. In de komende tien jaar gaan machines ook goed worden in het creëren van patronen. Eindelijk krijgen machines een vonk van verbeelding.

Mijn rapport Machines met verbeeldingskracht is een compleet en actueel rapport over onder andere deepfake technologie, GAN technologie en synthetische media. Dit rapport is een vervolg op het boek De digitale butler − Kansen en bedreigingen van kunstmatige intelligentie uit 2017. Het boek schetst de betekenis van deze nieuwe technologie en de bredere trend van ‘door machines gegenereerde content’.