Datatilsynet er bekendt med, at flere virksomheder og myndigheder anvender digitale assistenter i deres arbejde, herunder f.eks. til kontakt med borgere. Det er i den forbindelse vigtigt, at man som dataansvarlig har indgående kendskab til – og foretager korrekt risikovurdering af – de digitale assistenter, som man anvender. Datatilsynet har nemlig set sager, hvor fejl i digitale assistenter kan resultere i konsekvenser for borgere.
Et eksempel er en situation, hvor en borger aflyste et møde med sin sagsbehandler ved hjælp af en digital assistent, men budskabet om aflysningen kom ikke videre til sagsbehandleren, der derfor sendte borgeren et varsel om økonomisk sanktionering for udeblivelse fra mødet.
Hvis man påtænker at bruge digitale assistenter i sit arbejde, skal man derfor være meget opmærksom på de risici, som det kan have for borgerne. I nogle tilfælde vil det også være nødvendigt at udarbejde en konsekvensanalyse.
Du kan finde Datatilsynets nye skabeloner til konsekvensanalyser – herunder til brug af AI-løsninger – her.