Het is een voorbeeld van een AI-flater van al weer een aantal jaar geleden maar we vonden het eigenlijk te leuk – en te waardevol – om niet te delen. Want waar AI in staat is om bedrijven sneller, slimmer en efficiënter te laten functioneren, is het gebruik van deze technologie ook niet geheel zonder risico’s. Zo besloot de Schotse voetbalclub Inverness Caledonian Thistle in oktober 2020 kosten te besparen en gelijk te innoveren. Het idee: een AI-gestuurde camera die livebeelden van wedstrijden registreert, zonder cameramensen. Slim, efficiënt en helemaal van deze tijd zou je denken. Het verliep echter niet geheel volgens plan.
Een glimmend kaal hoofd
De camera was uitgerust met een automatisch volgmechanisme dat de bal detecteerde en in beeld hield. Althans, dat was de bedoeling. Want tijdens een van de eerste wedstrijden bleek de kunstmatige intelligentie niet de bal, maar het glimmende, kale hoofd van de assistent-scheidsrechter als doelobject te kiezen. De camera bleef consequent op hem ingezoomd. Fans misten doelpunten, kansen en corners, terwijl ze langdurig naar het glimmende achterhoofd van de assistent-scheidsrechter keken. Online ontstond direct een stortvloed aan grappen, memes en videoanalyses.
Briljante PR, wijze les
Voor Inverness was het niet alleen een briljant PR-moment, maar ook een wijze les. De AI had simpelweg geleerd wat een bal zou moeten zijn — rond, reflecterend, bewegend. Maar nuance en context ontbraken. De club en leverancier Pixellot stelden het systeem bij, maar de gebeurtenis blijft een standaard voorbeeld van AI die zonder menselijke controle echt precies doet wat hem is geleerd. En dat kan dus ook verkeerd gaan.
Een luchtige AI-flater met een serieuze ondertoon
De hilariteit van deze AI-flater zat hem natuurlijk in de onschuld ervan: niemand raakte gewond, het kostte weinig tot geen geld en leverde zelfs een hoop gratis publiciteit op. Maar onder de grap schuilt een fundamenteler punt dat relevant is voor iedereen die AI op een veilige en juiste manier wil toepassen:
AI is krachtig, maar alleen als het met menselijke context, controle en correctie wordt ingezet.
Bij Inverness was het gevolg slechts een slechte wedstrijdregistratie (en een hoop lol en hilariteit). En het paste misschien ook wel bij het gemiddelde niveau van wedstrijden van deze club. Maar in andere situaties leidt een vergelijkbaar gebrek aan nuance tot fouten met veel verstrekkendere gevolgen — voor klanten, werknemers, burgers of het merk.
Drie voorbeelden met iets minder grappige gevolgen
- New York City’s chatbot voor ondernemersadvies (2024)
De gemeente New York lanceerde in samenwerking met Microsoft de AI-chatbot MyCity om ondernemers te helpen met regelgeving. Binnen enkele weken gaf het systeem foute, illegale of ronduit gevaarlijke adviezen: van het ten onrechte inhouden van fooi tot het weigeren van huurders met huisdieren of kinderen — vaak in strijd met lokale wetgeving. Het resultaat? Verlies aan vertrouwen in publieke dienstverlening, juridisch risico voor gebruikers en een systeem dat direct offline moest worden gehaald. - SafeRent’s AI-systeem discrimineert huurders (2024)
Het Amerikaanse SafeRent gebruikte een algoritme om huurkandidaten te beoordelen. Uit onderzoek bleek dat huurders met overheidssteun systematisch lager scoorden — wat in de praktijk vooral mensen met een Afro-Amerikaanse of Latino achtergrond trof. Het resultaat? Een federale rechtszaak met een schikking van $2,2 miljoen, verplichte aanpassing van het systeem, burgers die op basis van hun achtergrond werden gedisicrimeerd en reputatieschade voor SafeRent en diens klanten (verhuurders). - Uitkeringsfraude in het Verenigd Koninkrijk – AI stigmatiserend en niet transparant (2023–2024)
Het Britse ministerie voor Werk en Pensioen gebruikte een AI-systeem om frauduleuze uitkeringsaanvragen op te sporen. Uit een klokkenluidersrapport bleek dat bepaalde bevolkingsgroepen – waaronder migranten, ouderen en mensen met een beperking – structureel vaker als ‘verdacht’ werden gemarkeerd. Het resultaat? Politieke ophef, parlementaire vragen, verbolgen burgers en een verder afnemend vertrouwen in de overheid.
Wat kunnen we hier van leren?
Of je nu werkt met een camera op een voetbalveld, een fiscale AI-assistent of een chatbot voor klantadvies: AI werkt alleen goed als het is ingebed in menselijke expertise en mensen de controle en supervisie houden. Zonder duidelijke ethische kaders, monitoring, toetsing en correcte data gaat het systeem op zoek naar patronen die logisch lijken — maar maatschappelijk, juridisch of moreel onjuist zijn.
Daarom vijf essentiële lessen:
- Test AI-systemen uitvoerig
- Zorg voor diverse en representatieve trainingsdata
- Laat waar mogelijk de AI gebruik maken van gecontroleerde i.p.v. open data
- Zorg altijd voor menselijke supervisie
- Communiceer transparant met gebruikers over de beperkingen van je systeem
Conclusie: van hilariteit naar controle
De AI-flater met de Schotse assistent-scheidsrechter is grappig — en leerzaam. Het laat zien dat AI beperkt kan zijn zonder de juiste data, menselijke context en (beperkte) menselijke controle. Het wordt echter een ander verhaal als van humor geen sprake meer is.
Voor ondernemers en professionals die AI willen inzetten in hun onderneming geldt: de winst van AI zit niet in het vervangen van de menselijke component. De mens dient altijd de controle te behouden. Nextens Tex maakt bijvoorbeeld exclusief gebruik van vooraf gecontroleerde content. Je kunt de gebruikte content ook altijd via de bronvermelding raadplegen om het antwoord te controleren. En juist dat is een essentieel punt, zeker in de fiscaliteit. AI is fantastisch maar zeker niet feilloos en kan nog steeds fouten maken. Het is dus aan de professional om te besluiten wat er met de door Tex (of een andere AI-tool) gedaan wordt. Want een AI die een voetbal verwart met een kaal hoofd is een grappige AI-flater. Een AI die gebruik maakt van verouderde wetgeving kan echt vervelende gevolgen hebben.
Wil jij fiscale hulp maar zelf de touwtjes in handen houden?
