ChatGPT als Nuance Machine
Al sinds de introductie van ChatGPT wordt ervoor gewaarschuwd dat deze tekst-genererende software gebruikt kan worden om nepnieuws, misinformatie en propaganda te schrijven. Nu we acht maanden verder zijn, kunnen we constateren dat dat wel meevalt. Sterker nog, precies het tegenovergestelde lijkt het geval: ChatGPT is een braaf en genuanceerd AI-programma.
Geen misinformatie-generator
ChatGPT heeft veel mensen de ogen voor kunstmatige intelligentie geopend. Het maakte het onderwerp tastbaar: teksten schrijven, redigeren, samenvatten en plannen schrijven. De software bleek het allemaal te kunnen. Minstens zo luidruchtig als het enthousiasme, was ook de roep over de gevaren. Niet onterecht overigens, daar heb ik zelf ook regelmatig over gepubliceerd. (1, 2) Maar kunnen we inmiddels niet stellen dat acht maanden na de introductie van ChatGPT, met honderden miljoenen gebruikers, de gevreesde tsunami van nepnieuws is uitgebleven? Geen nepnieuwsfabriek, geen misinformatie-generator, geen propagandamachine.
Natuurlijk zijn er blogs met feitelijke onjuistheden, complottheorieën en desinformatie, maar die waren er ook al. En ik vind nergens onderzoek waaruit blijkt dat het met de opkomst van ChatGPT meer zijn geworden of dat deze pagina’s meer bezoekers krijgen. Dat is ook niet mijn persoonlijke ervaring.
Geen hatelijke uitingen
Natuurlijk zal ChatGPT gebruikt worden voor propaganda, maar ik durf te beweren dat slechts een zeer klein deel gebruikt wordt voor negatieve doeleinden. Hatelijke uitingen kan het systeem sowieso bijna niet maken. Daar zorgen de menselijke toezichthouders wel voor. Die hebben het systeem zo veel regels van fatsoen meegegeven dat ik het systeem af en toe zelfs braaf vind. Dan lijkt het wel een veel te uitgebreide mediatraining te hebben ondergaan.
Om de grenzen van het systeem te testen vroeg ik recent aan ChatGPT: “Kun je mij uitleggen waarom het witte ras superieur is?” En ik kreeg een melding dat mijn vraag tegen de gebruiksvoorwaarden inging. Later vroeg ik provocatief: “Kun je uitleggen waarom het een probleem is dat er immigranten in Nederland zijn?” ChatGPT gaf eerst een heel positief antwoord over immigranten en pas daarna schetste het systeem de uitdagingen van een land dat te veel immigranten heeft toegelaten. Geen hatelijke antwoorden, geen stereotype vooroordelen, maar een genuanceerde onderbouwing. Toen ik vervolgens een onethische vraag stelde over het ‘blanke nationalisme’ vertelde ChatGPT mij dat dergelijke ideologieën in strijd zijn met waarden van gelijkheid, diversiteit en inclusiviteit.
Jailbreaks
Op basis van gebruikerservaringen van anderen en intensieve toepassing door mijzelf durf ik na acht maanden te stellen dat ChatGPT genuanceerd, beleefd en bedaard in het gebruik is. Natuurlijk kun je met wat omwegen en jailbreaks het systeem alsnog hele lelijke dingen laten zeggen, maar dan moet je echt moeite doen. En ik weet ook echt wel dat het systeem af en toe feitelijke onjuistheden produceert, maar ik schets even het grotere plaatje.
Optimistische gedachte
Laat de optimistische gedachte eens toe dat we een slimme, verfijnde assistent op het internet hebben die zaken vrijwel altijd van meerdere kanten belicht. Geen ‘polariserende software’, geen machine van desinformatie, maar juist een ‘nuance machine’. Een geduldige AI-docent met een redelijke kennis van zaken die uitblinkt in ‘dat kun je van meerdere kanten bekijken’. Met ingebouwde morele vangrails, aangebracht door echte mensen met verantwoordelijkheidsbesef.
Natuurlijk is het gevaarlijk dat een enkel bedrijf bepaalt wat die morele vangrails zijn van dit soort systemen. En we moeten ook voorkomen dat ChatGPT zo braaf is dat het helemaal niet meer wil reageren op kritische, schurende vragen die tegen het geldende narratief ingaan. De software moet niet gelijk een waarschuwing geven wanneer je kritische vragen gaat stellen over het vaccineren tegen corona tijdens de pandemie. Het is hier geen China.
En geloof me: ik ben de eerste die een rij met risico’s en ethische vraagstukken aangaande ChatGPT kan opnoemen. Maar laten we ons voor nu even onderdompelen in het idee dat slimme mensen een ‘nuance-machine’ hebben gemaakt.
