Kunstmatige intelligentie (AI) // Brief aan de Tweede Kamer van de minister van Economische Zaken en de staatssecretarissen van Binnenlandse Zaken en Koninkrijksrelaties en van Justitie en Veiligheid
Aan de Voorzitter van de Tweede Kamer der Staten-Generaal In deze brief informeren wij u over de (voorlopige) vaststelling van autoriteiten voor de bescherming van de grondrechten in het kader van de Europese AI-verordening. Lidstaten moeten voor 2 november 2024 een lijst opstellen en openbaar maken en de Commissie hierover informeren (artikel 77 lid 2). Het gaat om het vaststellen van toezichthouders die nu al krachtens Unierecht een taak hebben in het toezicht op de bescherming van de grondrechten, waaronder het recht op non-discriminatie en de bescherming van persoonsgegevens (AVG). De lijst is een ‘levend document’ en kan worden aangepast.
Den Haag, 19 november 2024
Op 1 augustus jl. is de AI-verordening in werking getreden om ervoor te zorgen dat AI (kunstmatige intelligentie) veilig en betrouwbaar wordt ontwikkeld en toegepast in de EU. Een belangrijke mijlpaal; met deze Europese eisen en kaders voor AI kunnen we van de (economische) kansen van AI profiteren, worden de risico’s van AI-systemen en toepassingen aangepakt en stimuleren we de ontwikkeling van betrouwbare AI. De AI-verordening wordt stapsgewijs ingevoerd, stelt eisen aan de ontwikkeling en het gebruik van AI-systemen en kent een risico gebaseerde benadering, waarbij naarmate het risico toeneemt het aantal verplichtingen ook toeneemt. De inrichting van het nationale toezicht op de AI-verordening wordt momenteel verder uitgewerkt. Voor 2 augustus 2025 zullen lidstaten nationale toezichthouders moeten aanwijzen. Zij zullen toezien op de naleving van de AI-verordening, inclusief de bepalingen daarin die grondrechten beschermen. In de AI-verordening worden deze toezichthouders als markttoezichthouder aangeduid.
Autoriteiten die grondrechten beschermen en de AI-verordening
Artikel 77 van de AI-verordening is opgesteld om bestaande autoriteiten, die zich richten op de handhaving en naleving van Unierecht gericht op de bescherming van grondrechten, te ondersteunen in het toezicht als in hun veld AI-systemen worden gebruikt en te laten beschikken over de juiste bevoegdheden om dit toezicht goed in te vullen. Artikel 77 van de AI-verordening omschrijft de grondrechtenautoriteiten als “Nationale overheidsinstanties of -organen die de nakoming van verplichtingen krachtens Unierecht ter bescherming van grondrechten, waaronder het recht op non-discriminatie, met betrekking tot het gebruik van de in bijlage III vermelde AI-systemen met een hoog risico controleren of handhaven.” Deze autoriteiten kunnen in hun werkzaamheden ook te maken krijgen met gebruik van AI. De AI-verordening kent hen daartoe een aantal bevoegdheden toe:
- het opvragen van opgestelde of bijgehouden documentatie van hoog risico AI-systemen (bijlage III uit de AI-verordening), als dat nodig is voor het doeltreffend uitoefenen van de bevoegdheden onder hun mandaat en binnen de grenzen van hun rechtsgebied;
- een verzoek indienen bij de markttoezichthouder om AI-systemen met een hoog risico te laten testen.
Daarnaast dient de markttoezichthouder:
- de relevante grondrechtenautoriteit te informeren bij ernstige incidenten;
- de relevante grondrechtenautoriteit te informeren over AI-systemen waarbij een risico voor grondrechten is vastgesteld en bij melding van ernstige incidenten;
- in het geval er corrigerende maatregelen moeten worden genomen, werkt de relevante markttoezichthouder hierin samen met de grondrechtenautoriteit.
De markttoezichthouders kunnen hoogrisico-AI-systemen controleren om vast te stellen of zij voldoen aan de plichten en eisen, waaronder ook het uitvoeren van een grondrechten-risicoanalyse en goed databeheer (privacy & non-discriminatie), en in sommige gevallen een grondrechten-impactassessment. Het is daarom belangrijk de rol van de grondrechtenautoriteiten in samenhang te zien met de taken en bevoegdheden van de nog aan te wijzen markttoezichthouders op de AI-verordening. In de besluitvorming over de inrichting van het toezicht op de AI-verordening zal de samenstelling van de lijst met grondrechtenautoriteiten en de invulling en verhoudingen tussen de diverse toezichthouders worden meegenomen.
Vastgestelde grondrechtenautoriteiten
Voor nu wordt op grond van artikel 77 van de AI-verordening het College voor de Rechten van de Mens (CRM) vastgesteld als grondrechtenautoriteit in zijn hoedanigheid als nationaal instituut voor de rechten van de mens en als gelijkebehandelingsorgaan als bedoeld in richtlijnen 2024/1499 en 2024/1500. Daarnaast heeft het CRM op grond van de Wet College voor de rechten van de mens de bevoegdheid om te oordelen in zaken over (on)gelijke behandeling, zoals onder meer geregeld in de Algemene wet gelijke behandeling.
Daarnaast worden de Autoriteit Persoonsgegevens (AP), de procureur-generaal bij de Hoge Raad (PGHR), de voorzitter van de Afdeling Bestuursrechtspraak Raad van State (ABRvS), het gerechtsbestuur van de Centrale Raad van Beroep (CRvB) en het gerechtsbestuur van het College van Beroep voor het bedrijfsleven (CBb) vastgesteld als grondrechtenautoriteiten voor het gegevensbeschermingsrecht. Zij zijn vanwege de Algemene Verordening Gegevensbescherming (AVG, 2016/679) en Richtlijn voor gegevensbescherming bij rechtshandhaving (RGR, 2016/680) bevoegd om toezicht te houden op normen in de AVG en de RGR die ertoe strekken het gegevensbeschermingsrecht te eerbiedigen. De rechtsprekende macht heeft hierbij een bijzondere rol, vanwege haar onafhankelijkheid en het waarborgen van het onafhankelijke toezicht in het kader van de uitoefening van gerechtelijke taken.
Het kabinet sluit hiermee grotendeels aan bij de adviezen die de toezichthouders hebben gegeven over de vaststelling van grondrechtenautoriteiten. In het tweede tussenadvies , dat door de AP en de Rijksinspectie Digitale Infrastructuur in opdracht van het kabinet samen met andere relevante toezichthouders is opgesteld, wordt geadviseerd om het CRM en de AP vast te stellen als grondrechtenautoriteiten.
Vervolg
De lijst (zie bijlage) met grondrechtenautoriteiten wordt op 19 november 2024 met de Europese Commissie gedeeld en kan indien nodig worden aangepast. Er wordt nog verder onderzocht of ook andere autoriteiten als grondrechtenautoriteiten vastgesteld dienen te worden. De lijst zal, indien dat het geval is, worden aangevuld. De taken van de grondrechtenautoriteiten onder de AI-verordening zien op artikelen die van toepassing zijn bij hoogrisico-AI-systemen. Dit betekent dat de eerste taken pas effectief kunnen worden vanaf 2 augustus 2026, het moment waarop de eerste bepalingen voor hoogrisico-AI-systemen van kracht worden.
De komende periode werkt het kabinet verder aan de inrichting van het toezicht op de AI-verordening. Hierbij is het van belang dat het toezicht op heldere en effectieve wijze wordt ingericht in aansluiting op bestaande mandaten, kennis en expertise binnen het toezichtlandschap.
Goede samenwerking bij de uitvoering van de beoogde toezichtstaken, zeker ook tussen de grondrechtenautoriteiten en de markttoezichthouders, is hierbij cruciaal.
De minister van Economische Zaken,
D.S. Beljaarts
De staatssecretaris Digitalisering en Koninkrijksrelaties,
F.Z. Szabó
De staatssecretaris van Justitie en Veiligheid,
T.H.D. Struycken