Københavns Kommune ønsker at udvikle, idriftsætte og gentræne en AI-løsning med udgangspunkt i egne data, der stammer fra historiske sager om tilbud af træning og rehabiliterende indsats. AI-løsningen er tiltænkt som beslutningsstøtte til sagsbehandlere i kommunens sundheds- og omsorgsforvaltning og vil på baggrund af en statistisk analyse med relativt stor nøjagtighed identificere, hvilke borgere der kan gennemføre et træningsforløb, og hvem der vil få effekt af forløbet.
Datatilsynet vurderer, at udvikling, drift og gentræning af en sådan AI-løsning generelt kan ske på baggrund af databeskyttelsesforordningens bestemmelse om myndighedsudøvelse (artikel 6, stk. 1, litra e) og forordningens bestemmelse om behandling nødvendig af hensyn til væsentlige samfundsinteresser (artikel 9, stk. 2, litra g). Begge bestemmelser forudsætter dog et såkaldt supplerende nationalt retsgrundlag.
Behandling af personoplysninger til udvikling, herunder gentræning, af løsningen kan efter Datatilsynets vurdering ske med henvisning til de eksisterende bestemmelser i serviceloven, der forpligter kommunen til at træffe afgørelser om og levere vedligeholdende træning og rehabiliterende indsats.
Efter Datatilsynets opfattelse kan offentlige myndigheder inden for rammerne af den lovgivning, der forpligter eller berettiger offentlige myndigheder til at udføre en bestemt opgave, ofte designe, udvikle og teste AI-løsninger, som kan understøtte myndigheden i at varetage denne opgave.
Behandling af personoplysninger som led i driften af løsningen kan imidlertid ikke ske inden for rammerne af disse bestemmelser, da der ikke er tale om et tilstrækkeligt klart retsgrundlag i lyset af, hvor indgribende en behandlingsaktivitet der er tale om.
Behovet for et tilstrækkeligt klart retsgrundlag er bl.a. begrundet i, at der ved brug af AI-løsninger, bl.a. som den omhandlede, ofte vil blive behandlet store mængder personoplysninger og følsomme oplysninger. Derfor har brug af AI som led i sagsbehandlingen, som det er tilfældet i denne sag, en betydning for, hvor klart det supplerende nationale retsgrundlag skal være. Det skyldes, at brug af AI bl.a. medfører, at AI-løsninger kan lære, finde sammenhænge og gennemføre sandsynlighedsanalyser og drage konklusioner langt ud over det, som en fysisk sagsbehandler ville være i stand til. Brug af AI i administrativ sagsbehandling er dermed grundlæggende forskellig fra den traditionelle menneskelige sagsbehandling, som har været normen hidtil.
Endelig indebærer brug af AI-løsninger til beslutningsstøtte en risiko for, at medarbejderne tillægger løsningens vurdering af en sag større betydning end deres egen vurdering, hvilket udgør en yderligere risiko for borgeren.
Vil du vide mere?
Læs selve udtalelsen her.