Aflevering 1 – Van crisis naar compliance
Imane, een alleenstaande moeder uit Rotterdam, herinnert zich nog hoe twee rechercheurs haar na jaren van rugklachten opnieuw vroegen om bankafschriften te overleggen. Wat zij toen niet wist: een machine-learning-model, getraind op duizenden oude fraudeonderzoeken, had haar als "hoog risico" aangemerkt. De stress leidde tot slapeloze nachten en een maand zonder uitkering. Rotterdam pauzeerde het systeem in 2021 na scherpe kritiek op bias en gebrek aan transparantie, maar voor Imane kwam dat te laat. (wired.com)
Waarom juist de overheid in de gevarenzone zit
De casus van Imane staat niet op zichzelf. Eerder velde de rechtbank in Den Haag al een hard oordeel over SyRI, het landelijke systeem dat wijken met bijstandsontvangers scande op fraude en daarbij grondrechten schond. (theguardian.com) En wie bij de politie vraagt naar predictive policing, krijgt vaak het Crime Anticipation System (CAS) te horen: een datagedreven heat-map die in theorie inbraken voorkomt, maar in de praktijk vooral bestaande vooroordelen kan versterken. Deze voorbeelden tonen precies waarom de EU in de nieuwe AI Act spreekt van hoog-risico-AI wanneer een toepassing beslissingen beïnvloedt rond sociale zekerheid, wetshandhaving of essentiële diensten.
De AI Act als game-changer
Sinds augustus 2024 is de AI Act officieel van kracht. De concrete plichten verschillen per rol en usecase. Voor gebruiksverantwoordelijken van bepaalde hoog-risicosystemen kunnen onder meer menselijk toezicht, logging en een grondrechteneffectbeoordeling vóór ingebruikname gelden. Registratie in de EU-databank en publicatie in het Nederlandse Algoritmeregister vragen ieder een eigen juridische en beleidsmatige beoordeling; het nationale register is niet automatisch een algemene wettelijke plicht voor iedere overheidsorganisatie. (matheson.com)
Deadlines die dichterbij zijn dan ze lijken
Het tijdpad is gefaseerd. Verboden praktijken en Artikel 4 gelden sinds 2 februari 2025. Artikel 50 geldt vanaf 2 augustus 2026. Verordening (EU) 2026/1744 verplaatst de meeste zelfstandige hoog-risicoplichten uit Bijlage III naar 2 december 2027 en die voor AI in gereguleerde productsystemen uit Bijlage I naar 2 augustus 2028. Dat geeft extra tijd, maar een gemeentelijke inventarisatie, classificatie en leveranciersroute kosten nog steeds maanden.
Wat deze serie brengt
In de komende weken neem ik je mee van inventarisatie tot post-market-monitoring. We starten met het in kaart brengen van alle algoritmen binnen jouw organisatie en bepalen welke echt onder "hoog risico" vallen. Daarna duiken we in de FRIA-methodiek, datakwaliteit & bias-tests, menselijk toezicht in de praktijk, contractmanagement met leveranciers, de registratieplicht én een werkbare audit-routine. Stap voor stap, met lessons learned van gemeenten, inspecties en ZBO's, zodat jouw team straks niet alleen compliant is, maar ook aantoonbaar vertrouwen kweekt bij burgers en toezichthouders.
Blijf dus aangehaakt: elke aflevering vertaalt de juridische tekst naar concrete aanpak, inclusief sjablonen, checklists en praktijkvoorbeelden. Zo zorgen we ervoor dat Imane's verhaal de uitzondering wordt – niet de norm.
Wil je weten hoe jouw organisatie scoort op de compliance-eisen van de EU AI Act voor hoog-risico AI-systemen? We bieden een snelle baselinescan die laat zien waar je staat en wat je nog moet doen. Neem gerust contact op voor meer informatie.
