Deepfake technologie: The Infocalypse
Geen zin om de introductie te lezen? Download dan hier het nieuwe rapport.
De term deepfake slaat op nepinformatie die moderne AI-software kan creëren. Deze AI-systemen creëren nieuwe digitale content zoals gezichten, afbeeldingen, video’s, teksten, menselijke stemmen en andere audio opnames. Nieuwe digitale content die ons bekend voorkomt, maar in feite volledig nieuwgeboren is.
Deepfake Technologie
De term deepfake combineert de Engelse woorden deep en fake. Fake betekent nep, en slaat op nepinformatie die moderne generatieve AI-software kan creëren. Deze systemen creëren nieuwe digitale content zoals afbeeldingen, video’s, teksten, menselijke stemmen en andere audio opnames. De term deep vindt zijn herkomst in de zogenaamde deep learning-netwerken, die te maken hebben met de huidige kwalitatieve groeispurt van deze generatieve AI-software.
Generative Adversarial Networks
Een veelbelovende ontwikkeling die de afgelopen jaren is gestart, betreft de combinatie van twee netwerken in zogenaamde generative adversarial networks, of GAN’s. Door gebruik te maken van trainingsmateriaal (tekst, audio, foto, video) probeert een GAN nieuwe content te maken. In dat proces gaan twee netwerken met elkaar in competitie. Het ene netwerk, de generator, probeert nieuwe output te maken die past binnen het trainingsmateriaal, en het tweede netwerk, de discriminator, keurt die nieuwe output goed of fout. Daarmee kunnen de twee systemen elkaar tot grote hoogten stuwen. Er ontstaat nieuwe output, die lijkt op het gebruikte trainingsmateriaal, maar dat dus niet is. Dit soort systemen genereren nieuwe digitale content die ons bekend voorkomt, maar in feite volledig nieuwgeboren is. Een wereld van nieuwe afgeleiden, nieuwe invalshoeken, nieuwe ideeën opent zich, met dank aan generatieve AI-software.
“De term deepfake slaat op nepinformatie die moderne AI-software kan creëren. Deze AI-systemen creëren nieuwe digitale content zoals gezichten, afbeeldingen, video’s, teksten, menselijke stemmen en andere audio opnames. Nieuwe digitale content die ons bekend voorkomt, maar in feite volledig nieuwgeboren is.” Jarno Duursma
Nepinformatie
In dit rapport: Deepfake technologie: The Infocalypse gaat het vooral over AI-software die wordt ingezet om onze zintuigen, en dan met name onze ogen en oren, te misleiden door nepinformatie te creëren en verspreiden.
Recent was er bijvoorbeeld een app op basis van generatieve AI-technologie die foto’s van (beroemde) mensen kon veranderen in naaktfoto’s (Deepnude). Er zijn nu technieken die na het verwijderen van voorwerpen uit foto’s, zoals een kei, een paal of een vlag, de foto bewerken zodat die er weer alledaags uitziet. Bij teksten kunnen generatieve AI-systemen, zoals GPT2 van OpenAI, in principe op basis van een voorgestelde krantenkop met een druk op de knop een nepbericht produceren. Het maken van nepnieuws wordt op deze wijze erg gemakkelijk. Zeker nu Deepfake iPhone apps het ons wel erg makkelijk maken.
