Wie het nieuws de laatste tijd een beetje heeft gevolgd, kan eenvoudig de indruk krijgen dat we op een technologisch kantelpunt staan. Medewerkers van grote AI-bedrijven waarschuwen immers openlijk voor systemen die ooit aan menselijke controle zouden kunnen ontsnappen. Sommigen verbinden daar zelfs het einde der mensheid aan.
Die waarschuwingen verdienen aandacht. Tegelijkertijd is het belangrijk om ze in perspectief te plaatsen. De AI die vandaag in navigatiesystemen, spamfilters, administratieve processen en fiscale software wordt gebruikt, staat ver af van de hypothetische superintelligentie waarover het debat gaat. Bovendien bestaat onder wetenschappers geen overeenstemming over de kans dat zulke extreme scenario’s werkelijkheid worden.
Waarom waarschuwen AI-onderzoekers juist nu?
De discussie kreeg recent nieuwe aandacht door het vertrek van onderzoekers bij vooraanstaande AI-bedrijven. Zo nam onderzoeker Jacob Coxon ontslag bij Anthropic. Hij waarschuwde dat grote ontwikkelaars te snel zouden werken aan steeds autonomere AI-systemen. Andere onderzoekers binnen de sector uitten vergelijkbare zorgen.
Hun bezorgdheid gaat vooral over wat in de toekomst mogelijk zou kunnen worden. Denk aan AI die zelfstandig complexe taken uitvoert, eigen software ontwikkelt, externe systemen gebruikt en uiteindelijk onderdelen van zijn eigen ontwikkeling versnelt.
Dat laatste wordt vaak aangeduid als zelfverbeterende AI (self-improving AI). Zulke volledig autonome zelfverbetering bestaat op dit moment niet. Reuters beschrijft dat AI inmiddels wel steeds beter meehelpt bij softwareontwikkeling, maar dat de veel verdergaande vorm van autonome, zichzelf versnellende verbetering nog geen werkelijkheid is.
Dat onderscheid is essentieel. De waarschuwing luidt dus niet dat iedere vorm van AI gevaarlijk is. De discussie gaat vooral over de vraag wat er gebeurt als toekomstige systemen veel krachtiger en zelfstandiger worden dan de systemen die we nu kennen.
Hoe realistisch zijn de AI-doemscenario’s?
Het eerlijke antwoord is dat niemand dat precies weet.
Het International AI Safety Report 2026 brengt onderzoek van meer dan honderd deskundigen samen en is opgesteld met betrokkenheid van meer dan dertig landen en internationale organisaties. Het rapport constateert dat de mogelijkheden van AI snel groeien. Tegelijkertijd benadrukt het dat veel toekomstige ontwikkelingen bijzonder onzeker zijn. AI kan zich richting 2030 snel blijven ontwikkelen, maar de vooruitgang kan ook vertragen of op onderdelen afvlakken.
De meest extreme scenario’s vereisen bovendien meerdere stappen die huidige AI-systemen nog niet zelfstandig kunnen uitvoeren. Een systeem zou bijvoorbeeld langdurig autonoom moeten functioneren, voldoende toegang moeten krijgen tot digitale of fysieke infrastructuur en menselijke beveiligingsmaatregelen moeten kunnen omzeilen.
Daarmee zijn zulke scenario’s niet hetzelfde als voorspellingen. Het zijn risicoanalyses van situaties die onder bepaalde toekomstige omstandigheden mogelijk zouden kunnen ontstaan.
Wel zijn er risico’s die veel dichter bij de huidige praktijk liggen. Denk aan cybercriminaliteit, misleidende informatie, privacyschendingen, discriminatie of onjuiste antwoorden. De OECD constateert dat sommige van deze vormen van schade nu al voorkomen.
Juist daarom helpt het om verschillende soorten AI-risico’s niet op één hoop te gooien.
De meeste AI die we dagelijks gebruiken is van een andere orde
AI is bovendien veel ouder en breder dan generatieve chatbots.
Navigatiesystemen, spamfilters en weersvoorspellingen maken bijvoorbeeld al jarenlang gebruik van technieken die onder kunstmatige intelligentie vallen. De European Data Protection Supervisor noemt deze toepassingen expliciet als voorbeelden van AI die onderdeel is geworden van het dagelijks leven.
Ook bedrijven gebruiken AI om repetitieve werkzaamheden te automatiseren, informatie sneller te verwerken en menselijke fouten te verminderen. De Europese Commissie wijst erop dat dergelijke toepassingen tijd kunnen besparen en de productiviteit kunnen verhogen.
Dat betekent niet dat iedere AI-toepassing zonder risico is. Een spamfilter kan een verkeerde e-mail tegenhouden. Een generatief model kan een onjuist antwoord geven. Een systeem dat persoonsgegevens verwerkt kan privacyvragen oproepen.
Maar dat zijn risico’s van een fundamenteel andere omvang dan het scenario waarin een superintelligent systeem zelfstandig de menselijke controle overneemt.
Ook Europese regelgeving maakt dat onderscheid. De AI-verordening (EU AI Act) werkt met verschillende risiconiveaus. Volgens de Europese Commissie valt het overgrote deel van de huidige AI-systemen in de categorie met minimaal of geen risico. Voor toepassingen met grotere mogelijke gevolgen gelden juist zwaardere eisen.
Zijn waarschuwingen ook in het belang van grote AI-bedrijven?
Naast oprechte veiligheidszorgen speelt nog een andere discussie. Critici vragen zich af of grote technologiebedrijven ook strategische redenen hebben om strengere regels of een lager ontwikkelingstempo te bepleiten.
Grote AI-modellen ontwikkelen vraagt enorme investeringen in rekenkracht, data en gespecialiseerde medewerkers. Nieuwe regelgeving kan daardoor relatief zwaarder drukken op kleinere ontwikkelaars dan op gevestigde partijen.
De OECD ziet daadwerkelijk structurele concurrentierisico’s in de AI-markt. Grote bedrijven hebben voordelen door hun toegang tot chips, cloudcapaciteit, data en bestaande digitale ecosystemen. De organisatie waarschuwt daarnaast dat dominante partijen regelgeving door hun invloed mede in een voor hen gunstige richting zouden kunnen proberen te bewegen.
Dat bewijst echter niet dat waarschuwingen van AI-onderzoekers onoprecht zijn. De persoonlijke zorgen van onderzoekers, commerciële belangen van bedrijven en maatschappelijke belangen rond veiligheid kunnen tegelijkertijd bestaan.
Het is daarom verstandig om beide uitersten te vermijden. Niet iedere waarschuwing is bewijs dat een ramp nadert. Maar het zou even onterecht zijn om alle zorgen als marketing of belangenbehartiging af te doen.
Waarom Nextens Tex niet hetzelfde risico vormt
Voor fiscale en financieel professionals is vooral relevant wat dit debat betekent voor toepassingen als Nextens Tex.
Daarbij is het verschil met de geschetste toekomstscenario’s groot. Tex is ontwikkeld als fiscale AI-assistent en reageert op vragen van gebruikers. Tex baseert zijn fiscale antwoorden uitsluitend op de gecontroleerde kennisomgeving van Nextens en geeft daarbij altijd bronverwijzingen. Tex handelt ook niet zelfstandig en heeft altijd een opdracht van de gebruiker nodig.
Daarmee ontbreken precies de eigenschappen die centraal staan in scenario’s rond verlies van menselijke controle. Tex formuleert niet zelfstandig langetermijndoelen, besluit niet zelf om activiteiten te starten en beschikt niet als autonome actor over kritieke maatschappelijke infrastructuur.
Dat betekent niet dat menselijke controle overbodig wordt. Ook een gespecialiseerde AI-assistent kan een antwoord geven dat controle verdient. Daarom zijn bij fiscale toepassingen de kwaliteit en herleidbaarheid van informatie veel relevantere aandachtspunten dan existentiële AI-risico’s.
Tex gebruikt hiervoor een afgebakende fiscale kennisomgeving met gecontroleerde content en bronvermelding. Daardoor kan de gebruiker zien waarop een antwoord is gebaseerd.
Conclusie
AI ontwikkelt zich snel en sommige zorgen van onderzoekers verdienen serieuze aandacht. Vooral krachtigere, autonomere systemen kunnen nieuwe risico’s veroorzaken. Daarom worden veiligheidsonderzoek, toezicht en regelgeving steeds belangrijker. Ook de Europese AI-verordening stelt inmiddels aanvullende eisen aan de krachtigste modellen en toepassingen met grotere maatschappelijke risico’s.
Tegelijkertijd is er geen wetenschappelijke consensus dat AI onvermijdelijk uitgroeit tot een bedreiging voor de mensheid. Veel van de meest extreme scenario’s gaan over technologie die nog niet bestaat en waarvan onzeker is of en wanneer die ontstaat.
Voor de dagelijkse praktijk is daarom vooral onderscheid belangrijk. AI is geen technologie met slechts één risicoprofiel. Een autonoom toekomstig systeem dat zelfstandig handelt is iets heel anders dan een spamfilter, navigatiesysteem of afgebakende fiscale AI-assistent.
Wie dat onderscheid maakt, ziet een minder spectaculair maar veel bruikbaarder beeld. AI brengt reële aandachtspunten met zich mee, maar het overgrote deel van de huidige toepassingen staat ver af van de doemscenario’s die momenteel de krantenkoppen halen.
Ook met een gerust hart van AI gebruik maken?
