Voorstel: CONCEPT Stop: geen besluiten over burgers met AI die de overheid niet kan uitleggen of laten controleren; einde black box en lock-in

Als een systeem niet uit te leggen is, kan niemand controleren of een besluit klopt: de burger niet, de rechter niet en de Kamer niet. De AP stelde vast dat chatbots kiezers ongemerkt sturen en schreef: 'Hoe chatbots antwoorden genereren is niet controleerbaar.' Tussen art. 22 AVG (alleen uitsluitend geautomatiseerde besluiten) en art. 86 AI-verordening (alleen bijlage III-systemen) zit een gat: besluiten waarbij een ambtenaar formeel beslist maar feitelijk de uitkomst van een systeem volgt. Keuze Harmen 2026-10-01: opties 1C en 2C. De hoogste risico's worden direct nationaal gebonden; de EU-lokalisatie-eis geldt alleen voor gevoelige gegevens en kritieke overheidstaken. Harmens definitie voor 2C: gevoelig zijn de bijzondere persoonsgegevens uit AVG art. 9 en 10 plus het BSN; kritiek zijn de vitale aanbieders en overheidstaken uit de Wbni en de opvolgende Cyberbeveiligingswet die de NIS2-richtlijn invoert.