Datatilsynet undersøger AI-screening af ansatte og psykiatrisk risikoværktøj

Datatilsynet, den danske databeskyttelsesmyndighed,Retsinformation undersøger, hvordan to offentlige myndigheder bruger kunstig intelligens på personoplysningerDatatilsynet: Skatteforvaltningen og Region MidtjyllandDatatilsynet. Undersøgelserne skal afklare, om myndighedernes behandling af personoplysninger i forbindelse med to konkrete AI-løsninger lever op til databeskyttelsesreglerne.Datatilsynet

Hos Skatteforvaltningen udvælger den løsning, der er under lup, medarbejdere i Skatteministeriets koncern til intern kontrolDatatilsynet af, om de overholder skatte- og afgiftslovgivningen. En AI-løsning er således med til at afgøre, hvilke medarbejdere der underlægges intern kontrol.Datatilsynet Datatilsynet har indledt denne undersøgelse på baggrund af blandt andet en modtaget klage.

Den anden sag vedrører Region Midtjyllands AI-løsning Fokuspatienter i Psykiatrien, der anvendes som beslutningsstøtte i psykiatrien. Værktøjet skal bidrage til at identificere patienter med forhøjet risiko for bæltefiksering, så der kan iværksættes behandlingstiltag med henblik på så vidt muligt at undgå bæltefiksering. Datatilsynet fik kendskab til løsningen via sin kortlægning af offentlige myndigheders brug af AI i 2023.

I begge tilsyn undersøger Datatilsynet, om myndighederne har udarbejdet de nødvendige konsekvensanalyser vedrørende databeskyttelseDatatilsynet, og hvordan rolle- og ansvarsfordelingen er mellem de involverede aktørerDatatilsynet — spørgsmålet om dataansvar og databehandleransvar, der afgør, hvem der står til ansvar for en lovlig behandling. I tilsynet med Skatteforvaltningen undersøger Datatilsynet desuden spørgsmål om forbudt AI-praksis efter AI-forordningen.Datatilsynet

Sagerne indgår i Datatilsynets fokus de seneste år på, hvordan offentlige myndigheder behandler borgeres personoplysninger i forbindelse med udvikling og anvendelse af AI-løsninger, og skal belyse, hvordan databeskyttelsesreglerne efterleves ved brug af AI i den offentlige sektor. Myndigheden har offentliggjort sine høringsbreve til de to myndigheder. For rådgivere og databeskyttelsesrådgivere er signalet, at pligten til konsekvensanalyse og en dokumenteret fordeling af dataansvar og databehandlerroller er det første, tilsynet kontrollerer, når det ser på en offentlig AI-implementeringDatatilsynet — og at medarbejderscreening desuden kan tiltrække sig opmærksomhed under AI-forordningens forbudDatatilsynet.

Retsgrundlag: databeskyttelsesreglerne om konsekvensanalyser og dataansvarliges ansvar i databeskyttelsesforordningen (GDPR) samt forbuddet mod visse AI-praksisser i AI-forordningen (forordning (EU) 2024/1689)Retsinformation, der på nationalt plan håndhæves efter lov om supplerende bestemmelser til forordningen om kunstig intelligens §§ 2-4.