Promo Z1

Overheid blind voor gevaren bij kunstmatige intelligentie?
Nieuws

Het pakte even een paar honderd miljoen euro nadeliger uit dan verwacht: de uitkomst van het CARbonTAX-rekenmodel had het optimale belastingbeleid moeten weergeven om zo de autorijder een kostenefficiënt duwtje in de groene richting te geven. Maar het rekenmodel, en dus de uitkomst, bleek niet juist.1  
 


Er werd vertrouwd op een rekenmodel waar geen inzicht in bestond, want die formule was intellectueel eigendom van consultancybureau Revnext. En dit blind afgaan op uitkomsten is naar mijn mening een klassieke fout waar wij in de toekomst nog veel meer voor zullen moeten waken. Waarom? Vanwege de opkomst van kunstmatige intelligentie (KI).

En nee, ik sta niet als enige op een kist de ‘sheeple’ te wakker te schudden terwijl ik een aluminium-hoedje op heb. Het is een reële waarschuwing die kenners van KI ook regelmatig geven.2  Soms moeten we weten hoe er exact tot een uitkomst is gekomen om zeker te weten of de uitkomst wel te vertrouwen is. Dit is nu ook aan de orde bij de nasleep van de CARbonTAX-affaire: de Tweede Kamer wil inzicht in die geheimzinnige formule om te zien waar het eventueel mis is gegaan.3 

Het zogenaamde ‘machine learning’ en ‘deep learning’ is helemaal hot en happening in KI-land. Het komt kortweg neer op de ontwikkeling van algoritmes waarmee een computer kan ‘leren’. Dergelijke technieken kunnen bijvoorbeeld helpen bij het ontwikkelen van kijksuggesties op Netflix of het stellen van medische diagnoses. En ja, het zou zelfs de overheid kunnen helpen bij het maken van bestuurlijke beslissingen.

Door de complexiteit van die algoritmische systemen is het echter voor ons simpele stervelingen vaak (vrijwel) onmogelijk om te achterhalen welke processen tot een bepaalde uitkomst hebben geleid, maar dat wil je soms wel weten. Soms wil je achterhalen welke factoren doorslaggevend waren bij een uitkomst of welke min- en pluspunten een uitkomst in een bepaalde richting hebben gestuwd, zoals dat mogelijk is bij een besluitproces waar mensen aan te pas komen.4  

Wel is het zo dat in het CARbonTAX-verhaal de betrokken ministeries aan wat knoppen draaiden door verschillende inzichten van onderzoeksorganisatie TNO als input aan Revnext te geven; dit in de hoop een zo goed mogelijke uitkomst uit de wiskundige hoed te toveren.5  Maar als je niet precies weet wat er gebeurt met je input, weet je dan wel zeker of deze input, en dus de output, goed is? 

Bovendien blijkt nu dat enkele waardevolle inzichten van TNO niet zijn meegenomen in het rekenmodel.6 Het doet een beetje denken aan het ‘garbage in, garbage out’-principe waar een slechte input in de computer ook een slechte output uit de computer oplevert.7  Maar misschien draaf ik nu door in deze analogie met KI.

Toch is de analogie in mijn ogen relevant. Nu is de ‘KI’ nog Revnext, een klein consultancybureau, maar wat als er in de toekomst KI-modellen door de overheid gebruikt gaan worden waarvan niet precies bekend is hoe deze modellen tot hun uitkomst komen? Gaat de overheid dan ook maar op goed geluk af op de uitkomsten?

Laten we hopen dat er een wijze les is getrokken uit het CARbonTAX-verhaal. En laten we hopen dat de overheid voorlopig nog maar even zelf de controle behoudt in het beslissingsproces. Bijvoorbeeld bij het ontwikkelen van een vertrekregeling bij de Belastingdienst. Dan komt het vast goed toch?


mr. Floris Koen
Contentmanager PE-Academy


https://www.rtlz.nl/algemeen/politiek/artikel/4680011/carbontax-revnext-rekenmodel-omstreden-tweede-kamer-boos
https://www.jarnoduursma.nl/nadelen-van-kunstmatige-intelligentie/
https://nos.nl/artikel/2280794-mist-rond-elektrisch-rijden-wordt-niet-minder.html
https://www.digitalistmag.com/future-of-work/2018/11/27/bringing-transparency-into-ai-06194523
https://www.rijksoverheid.nl/documenten/kamerstukken/2019/04/16/beantwoording-37-vragen-over-carbontax-model-door-leden-omtzigt-en-lodders (zie vraag 24)
https://www.rtlz.nl/algemeen/politiek/artikel/4681546/revnext-carbontax-mysterieuze-machinaties-financien-ienw-pbl
https://en.wikipedia.org/wiki/Garbage_in,_garbage_out