Met de aankondiging van GPT-4 Omni heeft OpenAI de grenzen van kunstmatige intelligentie verder verlegd. Deze nieuwste Voice AI-assistent klinkt buitengewoon menselijk. Dit roept de belangrijke vraag op: zijn we klaar voor de gevolgen van deze hyperrealistische digitale metgezellen op onze menselijke relaties en sociale samenhang?
AI voelt realistisch
Afgelopen maandag kondigde OpenAI het nieuwe model GPT-4 Omni aan. Dit model is specifiek getraind om tekst, audio en visuele input effectief te verwerken. Voorheen waren dit gescheiden systemen, maar nu zijn ze gecombineerd. Je kunt bijvoorbeeld via de camera iets aan het systeem laten zien en de software begrijpt wat het ziet. Zo heb je een digitale assistent op je smartphone die je ook een extra paar ogen biedt.
Maar het belangrijkste is dat je razendsnel met ChatGPT kunt praten alsof je met een mens praat. Het systeem reageert snel op je vraag, opmerking of grap. Het lacht, doet alsof het nadenkt en aarzelt een beetje bij het overwegen van een antwoord. GPT-4 Omni imiteert emoties, bescheidenheid en, bij gebrek aan een beter woord, heeft een ‘persoonlijkheid’ gekregen. De snelheid, stemtoon en inhoud sluiten zo realistisch aan dat het voelt alsof je met een echte persoon praat.
Sam Altman, de CEO van OpenAI, verwijst zelf naar de sciencefictionfilm *Her* uit 2013, waarin de hoofdpersoon Theodore steeds intiemere gesprekken voert met een AI-systeem genaamd Samantha en uiteindelijk een relatie met haar ontwikkelt.
Dunne lijn
Het onderscheid tussen praten met een mens en praten met een machine wordt steeds kleiner. De grote vraag is of dit wenselijk is.
Wanneer het niet meer duidelijk is of we online met een AI-systeem of een mens praten, beïnvloedt dat onze perceptie van menselijke interactie. We zijn gevoelig voor antropomorfisme, het toekennen van menselijke eigenschappen aan niet-menselijke entiteiten.
AI-vriendschap
Mensen zullen zich gaan hechten aan deze softwaresystemen, een soort ‘vriendschap’ ontwikkelen en een relatie opbouwen met hen. Dit verstoort op de een of andere manier de relaties tussen echte mensen. Plotseling heb je een altijd vriendelijke, geduldige en grappige metgezel die 24/7 beschikbaar is.
Zullen we minder met vrienden of familie praten omdat het gemakkelijker is om ons hart te luchten bij ChatGPT? Gaan we onze intieme geheimen delen met een begripvol AI-systeem en niet meer kwetsbaar zijn bij onze dierbaren?
Beschermen we onze jongeren en kinderen voldoende tegen de gevolgen van deze ‘AI-vrienden’? Accepteren we dat AI-vriendschap overgaat in een vorm van menselijke vriendschap? En hoewel dit als sciencefiction klinkt, zal het ongetwijfeld onze toekomstige realiteit worden.
Commercie
Deze mensachtige AI-systemen zullen uiteraard ook worden ingezet door commerciële bedrijven om zoveel mogelijk mensen te beïnvloeden om hun producten te kopen, met behulp van slimme psychologische trucs. Dit gaat een stap verder dan de online beïnvloedingstechnieken die we al kennen. Het raakt direct het hart van menselijke communicatie.
Wanneer mensen het gevoel hebben dat ze met een ander mens praten, zijn ze veel vatbaarder voor beïnvloeding. Dit is de reden waarom commerciële bedrijven graag AI-verkoopbots zo menselijk mogelijk willen maken. En omdat deze software zeer schaalbaar is, zijn er vrijwel geen beperkingen. En niet alleen voor commerciële doeleinden, maar ook voor politieke.
Duidelijkheid
Ik vind dat OpenAI veel duidelijker had moeten aangeven dat je met software praat. Al was het maar met een zacht piepje wanneer het systeem begint te spreken. Maar in plaats daarvan hebben ze er alles aan gedaan om het systeem zo menselijk mogelijk te laten klinken. Lachen, flirten, zuchten en ‘nadenken’.
Dit raakt het onzichtbare maar o zo waardevolle gebied van menselijke samenhang. Wanneer we niet meer weten of we met een mens of een machine praten, kunnen we wantrouwender en onverschilliger worden in online contact, of het nu met een mens of een machine is. Dit is een groot risico en mag niet licht worden opgevat.
Wat ik vooral wil benadrukken is dat praten, luisteren, samen lachen, verbaasd zijn en verhalen delen een essentieel onderdeel is van wie we zijn als mensen. We moeten dus zeer voorzichtig zijn om software die plek te geven.
Daarom doe ik een oproep aan OpenAI om hun software aan te passen.
(Artikel uit het Engels vertaald: origineel
