Een DPIA voor generatieve AI: wanneer verplicht en hoe pakt u het aan?
Kort antwoord
Een DPIA is verplicht als een verwerking waarschijnlijk een hoog risico oplevert voor de betrokkenen. Bij generatieve AI is dat vaak zo: het is nieuwe technologie, er gaat veel en soms gevoelige informatie in, en de uitvoer kan onjuist zijn. De DPIA beschrijft de verwerking, toetst noodzaak en evenredigheid, brengt de risico’s in kaart en legt de maatregelen vast. Waar het model draait, bepaalt een groot deel van de uitkomst.
Wanneer is een DPIA verplicht?
Artikel 35 van de AVG verplicht een DPIA als een verwerking “waarschijnlijk een hoog risico” inhoudt. De Europese privacytoezichthouders hebben negen criteria uitgewerkt; zodra een verwerking aan twee of meer voldoet, is een DPIA in de regel nodig. Voor generatieve AI zijn deze het vaakst van toepassing:
- Nieuwe technologie: generatieve AI geldt als innovatieve toepassing.
- Grootschalige verwerking: veel medewerkers, veel documenten, veel betrokkenen.
- Bijzondere of gevoelige gegevens: gezondheid, strafrechtelijke gegevens, financiële gegevens.
- Systematische monitoring: als het gebruik van medewerkers wordt gelogd en geanalyseerd.
- Evaluatie of scoring: als AI wordt gebruikt om personen te beoordelen.
De Autoriteit Persoonsgegevens heeft daarnaast een lijst van verwerkingen waarvoor een DPIA altijd verplicht is, met onder meer grootschalige controle van werknemers en grootschalige verwerking van gezondheidsgegevens.
De stappen van een DPIA voor een AI-toepassing
- Beschrijf de verwerking. Welke AI-toepassing, voor welk doel, welke gegevens gaan erin, wie gebruikt het, waar draait het model, welke partijen zijn betrokken en hoe lang wordt wat bewaard (prompts, uitvoer, logs)?
- Toets noodzaak en evenredigheid. Is dit doel met minder gegevens te bereiken? Kunnen namen worden weggelaten? Is er een grondslag?
- Breng de risico’s in kaart voor de betrokkenen, niet voor de organisatie. Zie de AI-specifieke risico’s hieronder.
- Leg maatregelen vast die de risico’s verkleinen, met een eigenaar per maatregel.
- Vraag advies aan de FG en leg dat advies vast.
- Beslis en herzie. Blijft er na maatregelen een hoog risico over, dan moet u de Autoriteit Persoonsgegevens vooraf raadplegen (artikel 36 AVG). Herzie de DPIA bij elke wezenlijke wijziging, zoals een nieuw model of een nieuwe gegevensbron.
Risico’s die specifiek zijn voor generatieve AI
| Risico | Mogelijke maatregel |
|---|---|
| Gegevens worden gebruikt om modellen te trainen | Contractueel uitsluiten, of een model gebruiken dat op eigen infrastructuur draait en niet traint op uw invoer |
| Doorgifte buiten de EU | Verwerking in de EU; bij voorkeur geen externe partij in de verwerking |
| Onjuiste uitvoer over personen | Menselijke controle voordat uitvoer wordt gebruikt voor beslissingen |
| Te veel gegevens in prompts | Safeguards die identificerende patronen tegenhouden; instructies per afdeling |
| Onbevoegde toegang via de AI | Rechten per rol; de AI ziet alleen bronnen waartoe de gebruiker toegang heeft |
| Logs als nieuwe verzameling persoonsgegevens | Korte bewaartermijn, beperkte inzage, vastgelegd in beleid |
Hoe uw keuze voor hosting de DPIA bepaalt
Een groot deel van de risico’s in een AI-DPIA gaat over de externe partij: wat doet de leverancier met de gegevens, waar staan ze, wie kan erbij, welk recht is van toepassing? Bij een AI-dienst van een Amerikaanse leverancier moet u onder meer de doorgifte en de CLOUD Act beoordelen. Zie De CLOUD Act en uw Europese data.
Draait het model op een eigen node in uw serverruimte, dan vallen die vragen grotendeels weg: er is geen externe verwerker van de inhoud, geen doorgifte en geen training op uw gegevens. De DPIA richt zich dan op wat u zelf regelt: toegang, safeguards, bewaartermijnen en menselijke controle. Met werqly legt u die vast in werqly AI Control, met een audit log als bewijs. Zie ook Is ChatGPT AVG-proof?
Veelgestelde vragen
Vragen over dit onderwerp
Is een DPIA verplicht voor ChatGPT?
Vaak wel, als medewerkers er persoonsgegevens mee verwerken. Generatieve AI geldt als nieuwe technologie, en in combinatie met bijvoorbeeld grootschalig gebruik of gevoelige gegevens voldoet u al snel aan twee of meer criteria die een DPIA verplicht maken.
Wie voert de DPIA uit?
De organisatie die de AI inzet, als verwerkingsverantwoordelijke. In de praktijk doet de eigenaar van het proces het met privacy- en securityspecialisten. De functionaris gegevensbescherming geeft advies, maar voert de DPIA niet zelf uit.
Wat is het verschil tussen een DPIA en een FRIA onder de AI Act?
Een DPIA gaat over risico’s voor de bescherming van persoonsgegevens. Een FRIA, de beoordeling van gevolgen voor grondrechten, is onder de AI Act verplicht voor bepaalde gebruikers van hoog-risico-AI, zoals overheden. Beide kunnen in één traject worden gecombineerd.
Moet een DPIA opnieuw als we een ander AI-model gaan gebruiken?
Als de wijziging de risico’s verandert, ja: een ander model bij een andere leverancier, een nieuwe gegevensbron of een ander doel. Een nieuwe versie van hetzelfde model op dezelfde eigen infrastructuur vraagt meestal alleen een korte toets.
Bronnen
- Autoriteit Persoonsgegevens — Data protection impact assessment (DPIA)
- Artikel 29-werkgroep / EDPB — Richtsnoeren voor DPIA’s (WP248 rev.01)
- AVG (Verordening (EU) 2016/679), artikelen 35 en 36
Dit artikel is algemene informatie, geen juridisch advies. Regels en richtsnoeren veranderen; controleer bij twijfel de genoemde bronnen of vraag uw jurist of FG.