AI en de overheid

De digitale voetafdruk die je achterlaat, wordt iedere dag groter.

Zoals je in de vorige track hebt gezien, maken veel bedrijven dankbaar gebruik van de hoeveelheid data die je creëert. En niet alleen bedrijven: jouw data zijn ook interessant voor de overheid.

Wat kan wel en wat kan niet?

Drie experts schijnen hun licht op de inzet van AI door de overheid.

In Nederland worden overheidsbeslissingen steeds vaker geautomatiseerd.

De geautomatiseerde beslissingen die worden genomen bij gemeenten zijn hier een goed voorbeeld van.

Het is bijvoorbeeld handig voor het uitrekenen van huur-, zorg- en kinderopvangtoeslag.

Daarbij spelen verschillende factoren een rol, zoals je inkomen, je eigen vermogen en je gezinssamenstelling. En ... waarschijnlijk moet je nu denken aan de toeslagen-affaire?

Vaak is het hele proces geautomatiseerd en komt er zelfs geen mens meer aan te pas.

En dat is ook direct de zwakke schakel. Bij de toeslagen-affaire werd beleid uitgevoerd dat niet deugde. Alle menselijkheid was eruit gehaald.

Hoe kan de overheid tóch de vruchten plukken?

Aan het woord is Marlies van Eck.

Wist jij dat...

Mannen vroeger een andere premie betaalden dan vrouwen voor eenzelfde autoverzekering.

Hoe kunnen we de burgers beter beschermen.

Tegen onrecht maar ook tegen 'bias', zegt Marlies van Eck.

Om te voorkomen dat systemen fouten maken of (onbedoeld) discrimineren, zijn er meerdere zaken van belang.

Het is essentieel dat data representatief zijn én voor de juiste doeleinden wordt gebruikt.
Wees altijd op je hoede en blijf kritisch. Dat geldt voor mensen die direct werken met AI-systemen, maar ook voor jou.
Het is belangrijk dat systemen transparant blijven en je inzicht kunnen geven hoe ze tot een beslissing zijn gekomen.

En de Nederlandse overheid verwerkt al veel persoonsgegevens.

Klik op de kruisjes voor meer informatie.

In Nederland hebben velen daar niet zo veel moeite mee.

En dat is best te begrijpen, want je hebt niets te verbergen en je doet niets fout, toch? Maar juist dat laatste maakt het lastig. Wat wel en niet fout is hangt af van de regels. En hoe die zijn opgesteld, verschilt per land.

Stel je voor..

Dat er een overheid is die AI een beetje extra inzet. Om een samenleving te creëren waarin iedereen zich aan de regels houdt: iedere inwoner krijgt een persoonlijke score. Gedraag je je netjes... dan gaat je score omhoog, en andersom.

Intussen in China

(Bekijk de animatie)

Nu blijkt dit verhaal in de media nogal te zijn opgeblazen.

Met zo’n systeem zouden ze in China wel degelijk bezig zijn, maar de ‘kredietscore’ zou er in eerste instantie voor zijn bedoeld om financieel gedrag in kaart te brengen. Oplichters krijgen daardoor negatieve scores en komen niet meer weg met hun illegale praktijken.

En hoe zit dat in Nederland?

Als je financiële gedrag in kaart kan worden gebracht, is de stap naar sociaal gedrag dan nog heel groot? Een financieel- of sociaal kredietsysteem lijkt een ver-van-onze-bedshow, maar ook hier gelden regels en word je vaak vastgelegd op camera.

We vroegen het aan Cees Snoek.

Waar gaat ondersteuning over in surveillance?

En daarmee ben je aangekomen bij het einde van deze track.

In deze track heb je geleerd dat de komst van AI binnen de overheid voor grote veranderingen gaat zorgen. In de volgende track gaat het over jou. Welke vaardigheden en beroepen worden door AI belangrijk?