I andet halvår af 2024 afviklede Datatilsynet og Digitaliseringsstyrelsen de to første forløb i den regulatoriske sandkasse for AI.
De to forløb har bidraget til værdifuld indsigt i nogle af de problemstillinger, der fra et databeskyttelsesretligt perspektiv er forbundet med udvikling og brug af AI hos henholdsvis private virksomheder i den finansielle sektor og hos offentlige myndigheder.
Nu deler Datatilsynet og Digitaliseringsstyrelsen denne læring med offentligheden i de to slutrapporter. Formålet er at give virksomheder, organisationer, offentlige myndigheder og andre interesserede indsigt i og vejledning om forskellige databeskyttelsesretlige problemstillinger, som nye og innovative AI-projekter kan møde.
I de to første sandkasseforløb har deltagerne udelukkende fået vejledning om konkrete udfordringer med de databeskyttelsesretlige regler. Fra og med anden runde af sandkassen, som netop er gået i gang, vil vejledningen også omfatte forordningen om kunstig intelligens (AI Act) – i første omgang om risikoklassificeringen.
Kort om projekterne
Det ene forløb vedrørte et AI-projekt hos Tryg Forsikring A/S om udvikling og idriftsættelse af en AI-løsning med navnet Dokumentassistent, hvor der anvendes generativ AI til opsummering af de mange dokumenter, der er i skadesager. AI-løsningen skal fungere som et støtteværktøj for skadebehandlere og læger i vurderingen og fastsættelsen af méngrad i skadesager på ulykkesforsikringer.
De primære temaer for sandkasseforløbet var:
1) genbrug af data til test af Dokumentassistenten, som oprindeligt er indsamlet til skadesagsbehandling,
2) retligt grundlag for behandling af personoplysninger,
3) udvælgelse af sager til test og
4) risikovurdering.
Det andet forløb vedrørte et AI projekt med navnet Talt, som er et samarbejde mellem Københavns Kommune, Aalborg Kommune, Aarhus Kommune og Systematic A/S.
AI-løsningen skal fungere som et støtteværktøj med følgende funktioner:
1) Give mulighed for at indtale dokumentation i omsorgsjournalen og få genereret en sammenfattet version af denne,
2) støtte til at placere dokumentation korrekt i omsorgsjournalen og
3) støtte i bedre at kunne orientere sig i omsorgsjournalen gennem en opsummering af større datamængder.
De primære temaer for sandkasseforløbet var:
1) retligt grundlag for behandling af personoplysninger til træning og drift af AI-løsningen,
2) mulighederne for at teste AI-løsningen på oplysninger om rigtige borgere og
3) rolle- og ansvarsfordelingen efter databeskyttelsesreglerne mellem parterne i en OPI-aftale.
Vil du vide mere?
Læs slutrapporten om Dokumentassistenten (Tryg Forsikring) her.
Læs slutrapporten om Talt-projektet her.
Læs mere om den regulatoriske sandkasse for AI her.