AI in het sociaal domein: waar het hoog risico wordt, en wat wel kan
Kort antwoord
AI die door een overheid wordt gebruikt om te bepalen of iemand recht heeft op een uitkering of essentiële voorziening, staat in bijlage III van de AI Act en is hoog-risico-AI. Dat brengt eisen mee aan menselijk toezicht, logging, informatie aan betrokkenen en een grondrechtentoets. Ondersteunend werk, zoals dossiers samenvatten of regelingen doorzoeken, valt daar meestal buiten, mits een mens beslist.
Waarom de lat hier hoog ligt
Het sociaal domein heeft een geschiedenis met geautomatiseerde risicobeoordeling. In 2020 oordeelde de rechtbank Den Haag dat de wetgeving rond SyRI, het systeem dat risico’s op fraude met uitkeringen en toeslagen berekende, in strijd was met artikel 8 van het EVRM: onvoldoende inzichtelijk en onvoldoende controleerbaar voor de mensen die het betrof.
De les is niet dat techniek verboden is, maar dat inwoners moeten kunnen begrijpen en aanvechten wat er over hen wordt vastgesteld. Dat is precies wat de AI Act nu in regels vertaalt.
Wat hoog risico is, en wat niet
| Toepassing | Inschatting |
|---|---|
| Beoordelen of iemand recht heeft op bijstand of een voorziening | Hoog risico (bijlage III) |
| Rangschikken van aanvragen op fraudekans | Hoog risico, en juridisch kwetsbaar |
| Dossiers samenvatten voor de consulent | Meestal niet hoog risico, mits de consulent beslist |
| Regelingen en beleid doorzoeken | Niet hoog risico |
| Brieven begrijpelijker maken | Niet hoog risico |
Na de Digital Omnibus gelden de hoog-risico-eisen uit bijlage III vanaf 2 december 2027. Zie De AI Act in 2026.
Wat u moet regelen bij hoog risico
- Grondrechtentoets. Publieke organisaties beoordelen vooraf de gevolgen voor grondrechten en registreren het gebruik in de EU-databank.
- Menselijk toezicht. Beleggen bij mensen die zijn opgeleid en bevoegd om in te grijpen, niet bij wie alleen op akkoord klikt.
- Logging. Automatisch gegenereerde logs minstens zes maanden bewaren.
- Uitleg aan betrokkenen. Inwoners hebben recht op uitleg over besluiten die mede op hoog-risico-AI berusten.
- DPIA. Vrijwel altijd nodig: het gaat om kwetsbare mensen en gevoelige gegevens. Zie DPIA voor generatieve AI.
Wat wel kan, en meteen helpt
- Dossiers en meldingen samenvatten, met verwijzing naar de bron, zodat de consulent sneller het beeld heeft.
- Regelingen, verordeningen en werkinstructies doorzoekbaar maken voor consulenten.
- Brieven aan inwoners herschrijven naar begrijpelijke taal, met de jurist als eindredacteur.
- Verslagen van keukentafelgesprekken opstellen, ter controle door de consulent.
Deze gegevens horen niet bij een externe AI-dienst. Met werqly draait het model op een eigen node van de gemeente, met rollen per team en safeguards op BSN en zaaknummers. Zie AI voor gemeenten en overheid en Generatieve AI bij gemeenten.
Veelgestelde vragen
Vragen over dit onderwerp
Mag AI beoordelen of iemand recht heeft op een uitkering?
Zo’n systeem is hoog-risico-AI onder de AI Act, met strenge eisen aan toezicht, logging en transparantie. Daarnaast verbiedt de AVG een besluit dat uitsluitend op geautomatiseerde verwerking berust en de betrokkene aanmerkelijk treft. Het oordeel blijft dus bij een medewerker.
Wat leert SyRI ons nog steeds?
Dat een systeem dat mensen beoordeelt, inzichtelijk en aanvechtbaar moet zijn. De rechtbank Den Haag oordeelde in 2020 dat de SyRI-wetgeving in strijd was met artikel 8 EVRM, onder meer omdat onvoldoende duidelijk was hoe het werkte en wie erdoor werd geraakt.
Mag AI helpen bij fraudesignalering?
Risicoprofilering door een overheid raakt grondrechten en is juridisch kwetsbaar. Doet u het toch, dan is het hoog-risico-AI, met een grondrechtentoets, registratie, logging en menselijke beoordeling van elk signaal. Begin liever bij toepassingen die consulenten ondersteunen.
Welke toepassingen zijn wel verantwoord?
Toepassingen waarbij AI niet over mensen oordeelt: dossiers samenvatten, regelingen doorzoeken, brieven begrijpelijker maken en gespreksverslagen opstellen die de consulent controleert. Houd de gegevens daarbij binnen uw eigen omgeving.
Bronnen
- Rechtbank Den Haag, 5 februari 2020 (SyRI), ECLI:NL:RBDHA:2020:865
- AI Act — Verordening (EU) 2024/1689, bijlage III en artikelen 26 en 27
Dit artikel is algemene informatie, geen juridisch advies. Regels en richtsnoeren veranderen; controleer bij twijfel de genoemde bronnen of vraag uw jurist of FG.