Redactie en AI: AI kan hebben geholpen bij onderzoek, structurering of een eerste concept. Een mens bepaalde de strekking, controleerde bronnen en claims en keurde publicatie goed. Lees het redactiebeleid.
In het kort
- Artikel 4 AI Act geldt onverkort voor overheidsorganisaties, sinds 2 februari 2025.
- Overheden zetten AI vaker in bij besluiten die burgers raken; dat brengt hoog-risicoverplichtingen mee.
- Sociale scoring door overheden is expliciet verboden sinds 2 februari 2025.
- Nederland kent daarbovenop het Algoritmeregister voor transparantie over algoritmegebruik.
- Bovenop de AI Act gelden de AVG, beginselen van behoorlijk bestuur en de motiveringsplicht.
Waarom overheid een andere categorie is
Voor een bedrijf is een verkeerd AI-antwoord een klantprobleem. Voor een overheidsorganisatie is het een rechtsstatelijk probleem: burgers kunnen zich niet aan de dienstverlening onttrekken en hebben recht op een gemotiveerd besluit. Dat verklaart waarom de AI Act publieke toepassingen strenger behandelt en waarom er in Nederland aanvullende afspraken bovenop liggen.
De AI-geletterdheidsplicht zelf is dezelfde als voor bedrijven, maar het niveau dat past bij de context ligt hoger, juist omdat de gevolgen zwaarder zijn.
Wat verboden is
Sinds 2 februari 2025 is sociale scoring door of namens overheden verboden: het beoordelen of classificeren van personen op basis van sociaal gedrag of persoonlijke kenmerken, met nadelige behandeling in een niet-gerelateerde context tot gevolg. Ook verboden zijn systemen die kwetsbaarheden uitbuiten en, met beperkte uitzonderingen, realtime biometrische identificatie op afstand in openbare ruimten voor rechtshandhaving.
Waar publiek AI-gebruik hoog risico wordt
- Beoordeling van aanspraak op uitkeringen, toeslagen of andere essentiële voorzieningen
- Risicoprofilering in het kader van toezicht en handhaving
- AI-inzet bij rechtshandhaving en bij migratie-, asiel- en grenscontrole
- AI in de rechtsbedeling en bij democratische processen
- Werving, selectie en beoordeling van eigen personeel
Bij deze toepassingen komen risicobeheer, datakwaliteit, logging, menselijk toezicht en documentatie kijken. Voor bijlage III-toepassingen gelden die eisen vanaf 2 augustus 2027.
Het Algoritmeregister
Naast de AI Act kent Nederland het Algoritmeregister, waarin overheidsorganisaties publiceren welke algoritmes ze gebruiken en waarvoor. Dat is een transparantie-instrument dat losstaat van de Europese verplichtingen, maar er in de praktijk goed op aansluit: de inventarisatie die je voor het register maakt, is grotendeels dezelfde die je voor de AI Act nodig hebt. Doe het één keer goed en gebruik het voor beide.
Wat een gemeente praktisch regelt
- Eén inventarisatie die zowel het Algoritmeregister als de AI Act-classificatie bedient
- Per toepassing vastleggen of er een besluit over een burger uit voortkomt, en zo ja wie dat besluit neemt en motiveert
- Instructie gedifferentieerd naar rol: baliemedewerkers, behandelaars, beleidsmedewerkers en bestuurders
- Een expliciete regel over generatieve AI in burgercorrespondentie, inclusief wie controleert voor verzending
- Aansluiting op bestaande DPIA-praktijk, want AVG-verplichtingen blijven onverkort gelden
