Kunstig intelligens (AI) rummer et stort potentiale og kan skabe nye muligheder i den offentlige sektor. Samtidig kan teknologien, afhængigt af hvordan den udvikles og anvendes, indebære risici for borgernes rettigheder og beskyttelsen af deres personoplysninger.
Det er derfor vigtigt, at offentlige myndigheder anvender AI på en ansvarlig måde og med respekt for de grundlæggende rettigheder. Det er også en forudsætning for borgernes tillid til myndighedernes brug af AI og anden ny teknologi.
Datatilsynet har indledt tilsyn med behandlingen af personoplysninger i forbindelse med konkrete AI-løsninger hos henholdsvis Skatteforvaltningen og Region Midtjylland.
To forskellige AI-løsninger
Det ene tilsyn omhandler Skatteforvaltningens brug af en AI-løsning, der anvendes til at udvælge medarbejdere i Skatteministeriets koncern til intern kontrol af, om de overholder skatte- og afgiftslovgivningen. Tilsynet er indledt på baggrund af bl.a. en klage, som Datatilsynet har modtaget.
Det andet tilsyn vedrører Region Midtjyllands AI-løsning Fokuspatienter i Psykiatrien, der anvendes som beslutningsstøtte i psykiatrien. Løsningen skal bidrage til at identificere patienter med forhøjet risiko for bæltefiksering, så der kan iværksættes behandlingstiltag med henblik på så vidt muligt at undgå bæltefiksering.
Datatilsynet fik kendskab til Region Midtjyllands AI-løsning i forbindelse med sin kortlægning af brugen af kunstig intelligens i den offentlige sektor i 2023.
Fokus på databeskyttelse og ansvar
I begge tilsyn undersøger Datatilsynet en række databeskyttelsesretlige forhold. Det gælder bl.a., om myndighederne har udarbejdet de nødvendige konsekvensanalyser vedrørende databeskyttelse, og hvordan rolle- og ansvarsfordelingen er mellem de involverede aktører.
I tilsynet med Skatteforvaltningen undersøger Datatilsynet også forhold vedrørende forbudt AI-praksis efter AI-forordningen.
Datatilsynet har de seneste år haft fokus på, hvordan navnlig offentlige myndigheder behandler personoplysninger om borgere i forbindelse med udvikling og anvendelse af AI-løsninger. Tilsynene er en del af dette arbejde hos Datatilsynet og skal bidrage til at belyse, hvordan databeskyttelsesreglerne efterleves ved brug af AI i den offentlige sektor.
Vil du vide mere?
Her kan du læse Datatilsynets høringsbreve til de to myndigheder:
Høringsbrev til Skatteforvaltningen.