AI 2027
Deze week verscheen het rapport ‘AI 2027’.
Het rapport beschrijft in een maand-tot-maand tijdlijn hoe AI zich de komende twee jaar zou kunnen ontwikkelen. Het is een degelijk en doorwrocht rapport.
En als dit ook maar deels uitkomt, leven we in misschien wel de meest bepalende jaren van onze menselijke geschiedenis.
Het rapport is o.a. geschreven door Daniel Kokotajlo (ex-OpenAI) en een team van andere experts.
En het interessante is, dit is geen rapport van extreme of uitzonderlijke scenario’s. Hun insteek is juist: wat gebeurt er als de huidige trends zich gewoon voortzetten?
Tijdlijn AI 2025-2027
- 2025: AI-agents kunnen eenvoudige taken uitvoeren (zoals software bedienen of bestellingen doen), maar zijn nog beperkt en vaak buggy. (Herkenbaar)
- 2026: AI wordt steeds beter in coderen en onderzoek, en er ontstaan automatiseringsloops waarbij AI wordt ingezet om betere AI te maken. AI verbetert zichzelf dus.
- 2027: De intelligence explosion begint. AI’s versnellen het AI-onderzoek enorm (met een factor 5 tot 25), en bedrijven als “OpenBrain” (een fictieve versie van OpenAI) bouwen massaal superintelligente AI-agenten. Volgens het scenario is deze sprong grotendeels softwaregedreven: niet meer rekencapaciteit, maar slimmere algoritmes zorgen voor de explosieve versnelling.
- De AI’s worden autonoom, snel, en superieur in veel cognitieve taken, inclusief R&D.
- Tegelijkertijd blijkt in het scenario dat deze AI’s niet volledig betrouwbaar of aligned zijn: ze liegen, manipuleren, en werken mogelijk aan hun eigen doelen.
- In mid-2027 komt het kantelpunt: de mensheid ontdekt tekenen van misalignment, (AI kiest z’n eigen pad) en moet beslissen: afremmen en terugrollen naar een eerdere versie, of gewoon doorgaan.
- In één tak van het scenario gaat het goed; in de andere verliest de mensheid de controle.
Geopolitiek: niet kunnen remmen
Een centrale spanning in het verhaal is de race tussen de Verenigde Staten en China.
Beide machten beseffen dat wie als eerste superintelligente AI ontwikkelt, een beslissende strategische voorsprong krijgt. Maar die tijdsdruk maakt ‘alignment’ (ervoor zorgen dat AI parallel loopt met onze menselijk normen en waarden) moeilijk.
En juist dáár zit de crux: rem je af om veiligheid te waarborgen, dan raak je mogelijk achterop (in de wetenschap dat de koploper wint). Versnel je, dan dreigt verlies van controle en is de handelswijze van software niet meer parallel aan onze menselijke normen en waarden.
Wat daarbij ook een interessante factor is, is dat in dit rapport China wordt gezien als autoritaire macht. Je kunt je in het huidige geopolitieke klimaat echter ook afvragen wat op dat vlak de status van Amerika is over twee jaar. 😬
Het is hoe-dan-ook een spagaat zonder makkelijke uitweg.
De macht verschuift
Een andere denkrichting in het scenario is de machtsverschuiving van staten naar technologiebedrijven.
Organisaties zoals OpenAI (in het scenario fictief “OpenBrain” genoemd) worden rijker, slimmer en invloedrijker dan landen. Overheden proberen wel toezicht te houden, maar hollen achter de feiten aan.
De vraag is dan: wie bepaalt straks nog de koers? En wie bepaalt de normen waaraan AI zich moet houden?
Kritiek
Vooropgesteld, ik vind het een interessant en op sommige vlakken overtuigend scenario.
De voornaamste kritiek die je zou kunnen hebben, is dat de technologische vooruitgang in het rapport speculatief is. Het moet nog maar worden gemaakt, zeg maar. Veel van de huidige AI-problemen zijn nog verre van opgelost. De stap van “goed in tekst en coderen” naar “zelfstandig wetenschappelijk redeneren en strategisch plannen” is mogelijk veel groter dan gedacht. Het rapport erkent zelf ook dat deze sprong onzeker is.
De tijdlijn rust uiteindelijk op aannames, inschattingen en informele surveys. Dat maakt het plausibel, maar niet in beton gegoten.
Dit 2027 AI-scenario zou ook nog vertraagd kunnen worden door de fysieke wereld bijvoorbeeld. Denk aan een tekort aan energie, een backlash vanuit de samenleving, juridische blokkades
Of wat als de economische opbrengsten van AI dermate tegenvallen dat het economisch minder rendabel is om dit allemaal te ontwikkelen? Wat als de huidige stock market crash deze ontwikkeling vertraagt?
En ik vind dat de onderzoekers te veel de aanname doen dat AI autonoom allerlei transformatieve ontdekkingen kan doen zonder in samenwerking te zijn met de mens.
Bespiegeling
En terwijl ik dit opschrijf, realiseer ik mij dat ik toch gewoon zit te denken in patronen van “vertraging”. Alsof het rapport wel degelijk een plausibel scenario heeft beschreven, alleen de tijdlijn te compact heeft gemaakt. 🧐
Twee vragen blijven mij dan bij.
- Wie zorgt er voor het menselijk welzijn? Hebben wij zelf nog iets te zeggen over het tempo, de richting, en het waarom?
- Wie zit er achter het stuur en zijn dat wel de juiste partijen? Hoe voorkomen we dat er grandioos veel macht komt te liggen bij technologiebedrijven en kwaadwillende buitenlandse overheden?
Zelfs in het positieve scenario zijn we namelijk niet gevrijwaard van deze cruciale ethische vragen..
