De Belastingdienst is begonnen met het gebruik van algoritmische systemen en kunstmatige intelligentie (AI) om belastingbetalers – inclusief zelfstandigen – te selecteren die aan inspectie zullen worden onderworpen. Het doet dit met de belofte om efficiënter te worden, maar het heeft een opening geopend juridisch debat over de motivaties en criteria die ertoe leiden dat de schatkist zich op sommige belastingbetalers concentreert en andere buiten beschouwing laat.
De ‘black box’ van publieke algoritmen, waarschuwt doctor in de rechten en transparantie-expert Miguel Ángel Blanes Climent, ‘kan zich verbergen enfouten, vooroordelen of zelfs oneerlijke beslissingen als deze niet voor het publiek toegankelijk zijn”.
De recente uitspraak van het Hooggerechtshof in de BOSCO-algoritmezaak –gebruikt door het Ministerie van Ecologische Transitie om de energiehulp te beheren vanuit de sociale bonus– vormt volgens deskundigen een beslissend precedent.
Voor het eerst heeft het Hooggerechtshof het recht van burgers erkend om te weten hoe een kunstmatig intelligentiesysteem dat door de regering wordt gebruikt, werkt. “Het Hooggerechtshof heeft gezegd dat de publieke macht zich niet achter technologie kan verschuilen.” Blanes uitgelegd. “Als een instelling AI gebruikt, moet zij de transparantie ervan garanderen.”
Burgers hebben het recht om te weten welke criteria de AI van het ministerie van Financiën volgt
Hoewel de uitspraak van het Hooggerechtshof verwees naar een sociaal programma, was de deskundige van mening dat dat wel het geval was kan worden uitgebreid naar het belastinggebied. In het geval van zelfstandigen beheert de State Tax Administration Agency (AEAT) enorme databases en past algoritmen toe om belasting-, boekhoud- en bankinformatie met elkaar te vergelijken, om te beslissen wie wel en wie niet moet onderzoeken.
Echter, Niemand buiten het Agentschap weet welke criteria deze kunstmatige intelligentie hanteert. Krijgen bepaalde sectoren prioriteit? Wordt er rekening gehouden met de omvang van het bedrijf? Het aantal facturen? Het toeval van leveranciers? Niemand weet het. “Het is logisch dat zzp’ers willen weten welke redenen er zijn waarom zij, en niet anderen, geselecteerd worden voor inspectie”, aldus de Transparantie-expert. “Want als deze algoritmen niet controleerbaar zijn, gaat de deur open naar hulpeloosheid”, voegde hij eraan toe.
Volgens Blanes is Het huidige wettelijke kader biedt onvoldoende garanties aangezien de Transparantiewet van 2013 niet eens ingaat op het bestaan van kunstmatige intelligentie, en de Algemene Belastingwet ook geen melding maakt van geautomatiseerde besluitvormingssystemen.
Transparantie en fiscale geheimhouding zijn verenigbaar
Voor Blanes impliceert de oplossing een juridische hervorming in twee fasen. “Het eerste is dat de Belastingdienst – en elke andere administratie – verplicht is om op zijn portaal te publiceren bij welke besluiten zij kunstmatige intelligentie gebruikt”, legde hij uit. “En de tweede, bieden een minimale uitleg van hoe deze algoritmen werken, op een begrijpelijke en toegankelijke manier”.
Een van de gebruikelijke bezwaren van de Belastingdienst is het risico dat het vrijgeven van de broncode of de werking van het algoritme brengt de veiligheid van belastinggegevens in gevaar.
Blanes benadrukte dat echter De fiscale geheimhouding, opgenomen in artikel 95 van de Algemene Belastingwet, mag geen voorwendsel zijn om de ondoorzichtigheid in stand te houden.
Dat legde hij uit Transparantie en fiscale geheimhouding zijn perfect verenigbaar als de algoritmen zijn ontworpen met voldoende garanties. “Als ik een algoritme ga gebruiken, kan ik niet zeggen hoe het werkt, omdat zij dat wel kunnen hacken‘Ik zou het niet moeten gebruiken,’ zei hij.
Naar zijn mening is De administratie mag alleen systemen toepassen die kunnen worden gecontroleerd zonder dat de persoonlijke informatie van de belastingbetaler in gevaar komtwaarbij onderscheid wordt gemaakt tussen het onthullen van programmalogica en het blootleggen van individuele gegevens.
Hoewel Blanes dat inzag belastinginformatie is bijzonder gevoelig en moet worden beschermd met het hoogste beveiligingsniveau, was hij ook van mening dat dit niet betekent dat het niet transparant kan zijn.
“Tegenwoordig stelt de technologie ons in staat om beide dingen met elkaar te verzoenen,” zei hij, “dat een systeem controleerbaar en tegelijkertijd onkwetsbaar is. Wat Het kan niet zo zijn dat vertrouwelijkheid als excuus dient om de actiecriteria van de staat te verbergen.”.
Algoritmen kunnen ook discrimineren
De doctor in de rechten legde verder uit dat het gebrek aan duidelijkheid in de criteria van publieke algoritmen ook het beginsel van gelijkheid voor de wet aantast, omdat Alle belastingbetalers, inclusief zelfstandigen, hebben het recht om eerlijk en niet-discriminerend te worden behandeld.
Als een algoritme bijvoorbeeld slecht ontworpen variabelen gebruikt (gekoppeld aan locatie, soort activiteit, leeftijd van de belastingbetaler, enz.), zou het vooroordelen zonder dat iemand het merkt.
“Algoritmen maken ook fouten en kunnen discrimineren zonder dat dit de bedoeling is”Blanes waarschuwde. “Daarom moeten ze onder toezicht kunnen staan. Anders wordt kunstmatige intelligentie een schild van ondoorzichtigheid.”
De Hoge Raad onderstreepte dit in zijn recente uitspraak al door daarvoor te zorgen Geautomatiseerde systemen kunnen niet buiten de controle van de burger opereren. En hoewel de rechtbank in dat geval de nadruk legde op de bescherming van kwetsbare groepen, is het principe volgens de geraadpleegde deskundigen universeel, aangezien elk algoritmisch instrument dat rechten of publieke beslissingen aantast, controleerbaar moet zijn.
De regering eist meer van de belastingbetalers dan van zichzelf
Het paradoxale, zo illustreerde Blanes, is dat, hoewel de regering snel wetgeving heeft ingevoerd voor burgers of particuliere bedrijven om aan te geven of een afbeelding of tekst door kunstmatige intelligentie is gegenereerd, De Administratie past diezelfde eis niet op zichzelf toe.
‘Het is veelbetekenend’, bedacht hij, ‘dat de staat transparantie oplegt aan de particuliere sector, maar deze niet in de praktijk brengt. Er is geen reden om deze ongelijke behandeling te rechtvaardigen, afgezien van de de onwil van de publieke machten zelf om gecontroleerd te worden”.
De deskundige wees erop dat deze tegenstand zich vertaalt in een gebrek aan structurele verantwoording. Politieke autoriteiten zijn terughoudend in het onderwerpen van hun daden aan burgeronderzoek, zelfs als het gebruik van technologie rechtstreeks van invloed is op de grondrechten. “Publieke macht is altijd moeilijk te controleren”Blanes zei ironisch genoeg: “maar als het zich achter een algoritme verschuilt, wordt controle onmogelijk.”
Het debat tussen juristen is nog maar net begonnen, maar er wordt al geopperd dat hetzelfde argument dat licht heeft geworpen op het algoritme dat sociale steun verleende, uiteindelijk het Hooggerechtshof zal bereiken en dwingen het ministerie van Financiën uit te leggen hoe haar programma's werken om de zelfstandigen te selecteren die moeten worden geïnspecteerd.
Zoals Blanes concludeerde: “kunstmatige intelligentie is een feit dat ons is overtroffen; de regering gebruikt het en moet zeggen wanneer het het gebruikt en verantwoording afleggen over hoe het werkt. Ik wil geen scenario bedenken waarin ik het zonder verantwoordelijkheid kan gebruiken; het zou rampzalig zijn”.
