Dit artikel is geschreven door Jarno Duursma. Meer weten? Abonneer je dan op zijn AI-nieuwsbrief. De populairste Nederlandse AI-nieuwsbrief op Substack!
Kan AI de mens uitroeien?
AI ontwikkelt zich sneller dan ons vermogen om de gevolgen te overzien. Autonome agents bedenken strategieën die niemand heeft voorzien. Zelfverbeterende systemen kunnen de menselijke rem omzeilen. En ondertussen dwingt een wereldwijde wedloop ons om steeds verder te versnellen.
In dit artikel onderzoek ik of AI de mens daadwerkelijk kan uitroeien. Ik bespreek de risico’s van autonome agents, recursive self-improvement en de geopolitieke wedloop die bedrijven en landen ervan weerhoudt om op de rem te trappen. Mijn grootste zorgen liggen niet alleen bij superintelligentie, maar ook bij biowapens, cyberaanvallen en de kwetsbaarheid van onze digitale infrastructuur. Daarom pleit ik voor een internationale pauzeknop en veel strengere samenwerking rond krachtige AI.
Lees verder