AI en de overheid

Wat kunnen we verwachten van de overheid en kunstmatige intelligentie?

Het leven wordt steeds digitaler.

Niet zo gek dat de overheid dus ook steeds meer gebruik maakt van geautomatiseerde beslissingen.

De voordelen zijn duidelijk. Een IT-systeem kan heel snel duizenden dossiers tegelijkertijd verwerken.

Toch zijn er ook nadelen.

Zo is men in Nederland nog steeds niet bekomen van "de toeslagen-affaire". Een blunder waarbij data en algoritmen werden ingezet voor beleid dat niet deugde. Elke vorm van menselijkheid was eruit gehaald.

Terwijl menselijkheid in veel gevallen noodzakelijk is.

Nathalie Smuha legt dit uit aan de hand van de rechtspraak.

Toch wordt de digitale voetafdruk die je achterlaat iedere dag groter.

Zoals in de vorige track besproken, maken veel bedrijven dankbaar gebruik van de hoeveelheid data die je creëert. En niet alleen bedrijven: jouw data zijn ook interessant voor de overheid.

Wat kan wel en wat kan niet?

Drie experts schijnen hun licht op de inzet van AI door de overheid.

In Vlaanderen hebben velen daar niet zo veel moeite mee.

En dat is best te begrijpen, want je hebt niets te verbergen en je doet niets fout, toch? Maar juist dat laatste maakt het lastig. Wat wel en niet fout is hangt af van de regels. En hoe die zijn opgesteld, verschilt per land.

Stel je voor..

Dat er een overheid is die AI een beetje extra inzet. Om een samenleving te creëren waarin iedereen zich aan de regels houdt: iedere inwoner krijgt een persoonlijke score. Gedraag je je netjes... dan gaat je score omhoog, en andersom.

Intussen in China.

(Bekijk de animatie)

Nu blijkt dit verhaal in de media nogal te zijn opgeblazen.

Met zo’n systeem zouden ze in China wel degelijk bezig zijn, maar de ‘kredietscore’ zou er in eerste instantie voor zijn bedoeld om financieel gedrag in kaart te brengen. Oplichters krijgen daardoor negatieve scores en komen niet meer weg met hun illegale praktijken.

En hoe zit dat in België?

Als je financiële gedrag in kaart kan worden gebracht, is de stap naar sociaal gedrag dan nog heel groot? Een financieel- of sociaal kredietsysteem lijkt een ver-van-onze-bedshow, maar ook hier gelden regels en word je vaak vastgelegd op camera.

We vroegen het aan Cees Snoek.

Waar gaat ondersteuning over in surveillance?

En wie houdt er toezicht op de overheid?

Bekijk hieronder twee instanties die aan jouw kant staan.

Om te voorkomen dat systemen fouten maken of (onbedoeld) discrimineren, zijn er meerdere zaken van belang.

Het is essentieel dat data representatief zijn én voor de juiste doeleinden wordt gebruikt.
Het is belangrijk dat systemen transparant blijven en je inzicht kunnen geven hoe ze tot een beslissing zijn gekomen.
Wees altijd op je hoede en blijf kritisch. Dat geldt voor mensen die direct werken met AI-systemen, maar ook voor jou.

Track 7 afgerond!

NEXT UP: Aan de slag met ChatGPT

Je wordt automatisch doorgeschakeld, of klik op bovenstaande knop.