Datatilsynet skal fremover føre tilsyn med overholdelsen af reglerne om de forbudte former for AI-praksis i artikel 5 i AI-forordningen. Det drejer sig nærmere bestemt om to bestemmelser om forbudte former for AI-praksis.
Det første forbud omhandler AI-systemer, der anvendes til at foretage risikovurderinger af fysiske personer for at vurdere eller forudse risikoen for at en fysisk person begår en strafbar handling, hvilket alene er baseret på profilering af en fysisk person eller en vurdering af deres personlighedstræk og personlige egenskaber. Dette forbud følger af forordningens artikel 5, stk. 1, litra d.
Det andet forbud omhandler AI-systemer, der anvendes til biometrisk kategorisering med henblik på at udlede race, politisk anskuelse, fagforeningsmedlemskab, religiøs eller filosofisk overbevisning, seksuelle forhold eller seksuel orientering. Dette forbud følger af forordningens artikel 5, stk. 1, litra g.
Klageadgang og indberetningspligt fra 2026
Retten til at klage og pligten til at indberette alvorlige hændelser efter forordningen træder først i kraft den 2. august 2026.
Indtil da kan Datatilsynet besvare forespørgsler og indlede sager af egen drift.