Rapportages en toezicht

Sinds 2023 publiceert de AP tweemaal per jaar de Rapportage AI & Algoritmerisico's Nederland (RAN). De vierde editie, verschenen in februari 2025, benadrukt dat incidentregistratie en transparantie rond algoritmes nog steeds tekortschieten. De AP pleit daarom voor een wettelijke registratieplicht en duidelijke governance-structuren.

Belangrijkste risico's

  • Gebrek aan incidentmonitoring: weinig zicht op algoritmische fouten en discriminatie.
  • Emotieherkenning: door de AP bestempeld als "dubieus en risicovol" vanwege onbetrouwbaarheid en impact op autonomie.
  • Toeslagenaffaire: schrijnend voorbeeld van algoritmisch falen waarbij nationaliteit werd gebruikt als frauderisico-indicator.

Menselijke tussenkomst en regulering

De AP benadrukt dat betekenisvolle menselijke tussenkomst bij algoritmische besluitvorming cruciaal is. Sinds februari 2025 geldt in Nederland een verbod op het gebruik van AI-emotieherkenning in onderwijs en werk. Daarnaast wordt gewerkt aan implementatie van de EU AI-verordening (AI Act).

Toekomst en samenwerking

De toezichthouder pleit voor versterkte AI-geletterdheid binnen onderwijs, overheid en bedrijfsleven. Ook wordt internationale samenwerking gezocht, onder meer via de EU en toezichthoudende organen zoals de nieuwe AI Safety Institutes.