Høringssvar fra Dataetisk Råd i 2021

Dataetisk Råds formål er at skabe et forum, som dels kan skabe en dataetisk debat, dels løbende kan understøtte en ansvarlig og bæredygtig dataanvendelse i erhvervslivet og i den offentlige sektor.

Dataetisk Råd skal opnå formålet ved bl.a. rådgivning, anbefalinger, redegørelser og udtalelser om almene og principielle dataetiske spørgsmål samt anden debatskabende aktivitet.

En del af dette arbejde består i at udarbejde høringssvar. Nedenfor ses rådets afgivne høringssvar.

Digitaliseringsstyrelsen Landgreven 4
1301 København K
Den 5. maj 2021

Høringssvar over projektforslag til nye kommunale og regionale signaturprojekter om anvendelse af kunstig intelligens i den offentlige sektor

1.
Digitaliseringsstyrelsen, KL og Danske Regioner har ved e-mail af 19. april 2021 anmodet om Dataetisk Råds eventuelle bemærkninger til en række projektforslag til nye kommunale og regionale signaturprojekter, der skal give erfaringer med anvendelse af kunstig intelligens i den offentlige sektor.

Dataetisk Råd er tidligere blevet introduceret til signaturprojekterne og er senest i januar blevet præsenteret for to konkrete problemstillinger fra signaturprojekter, hvor projektlederne fik lejlighed til at præsentere og gå i dialog med rådet om dataetiske problemstillinger.

De i alt 27 projektforslag fordeler sig på overodnet på tre forskellige områder: klima (3 projektforslag), velfærd, herunder sundhed (15 projektforslag), og administration (9 projektforslag).

På klimaområdet kan kunstig intelligens ifølge projektparterne hjælpe klimaindsatsen ved at bidrage til en reduktion af mængden af drivhusgasser, f.eks. gennem intelligent energistyring i bygninger. Her kan algoritmer efter det oplyste prædiktere energibehovet, således at man ikke opvarmer bygninger på tidspunkter, hvor de ikke benyttes. Kunstig intelligens kan eksempelvis også efter det oplyste anvendes til at identificere kælder, dør- og portåbninger i 3D-bymodeller baseret på eksisterende luft- og skråfotos, hvor vandet vil løbe hen og derved danne vidensgrundlag for klimasikringstiltag, så man undgår oversvømmelser af boliger og infrastruktur.

På velfærdsområdet, herunder sundhedsområdet, kan kunstig intelligens ifølge projektparterne f.eks. benyttes til hurtigere og bedre billeddiagnostik ved f.eks. at understøtte lægen i at identificere tegn på kræft, lungesygdomme og slidgigt mv. og derved også fokusere anvendelsen af røntgen- og MR-scanninger. Tilrettelæggelse af indsatsen målrettet udsatte borgere ventes ifølge projektparterne også at kunne forbedres og understøttes ved brugen af kunstig intelligens. Eksempelvis kan teknologien efter det oplyste benyttes til f.eks. ved opsporing af underernæring hos ældre eller i visitationen af borgere til f.eks. genoptræningsforløb.

Endelig har en række projektforslag ifølge projektparterne til formål at anvende kunstig intelligens til at forbedre den offentlige administration og service. Det kan f.eks. være anvendelse af voicebots eller intelligent mailsortering. Kunstig intelligens kan efter det oplyste også understøtte en korrekt og hurtig sagsbehandling ved hjælp
 
af beslutningsstøtte i forbindelse med aktindsigter og bidrage til at effektivisere interne administrative processer.

2. Dataetisk Råd har følgende bemærkninger:

Dataetisk Råd finder det generelt positivt, at man med en række nye kommunale og regionale signaturprojekter ønsker at afsøge mulighederne for anvendelse af ny teknologi og herunder kunstig intelligens i den offentlige sektor.

Anvendelse af kunstig intelligens i den offentlige sektor er stadig på et tidligt stadie. Med signaturprojekterne kan der høstes erfaringer med anvendelse af teknologien med henblik på at udnytte teknologiske muligheder til at give en bedre og mere effektiv service til borgere og virksomheder.

Samtidig kan projekterne give indsigt i teknologiens begrænsninger og udfordringer, herunder i forhold til de dataetiske overvejelser som anvendelse af kunstig intelligens i den offentlige sektor giver anledning til.

Dataetisk Råd anbefaler, at det overvejes og udtrykkeligt dokumenteres, hvilke etiske overvejelser, der ligger til grund for projekterne i forhold til retssikkerhed, grundlæggende rettigheder og grundlæggende samfundsmæssige værdier. Rådet opfordrer til, at projekterne løbende og i afrapporteringen forholder sig til, dokumenterer og evaluerer etiske problemstillinger i forbindelse med projekterne, så det sikres, at relevante overvejelser og hensyn til etiske værdier integreres i databehandlingen.

Dataetisk Råd finder det generelt positivt, at en række af signaturprojekterne tematisk er udvalgt inden for områder, der ikke i sig selv synes at involvere borgernes personlige oplysninger. Denne udvælgelse flytter fokus fra spørgsmålet om, hvad vi kan bruge borgernes personlige oplysninger til, til spørgsmålet om, hvad ny teknologi og data i bred forstand har af nytteværdi.

Det er imidlertid rådets anbefaling, at det overvejes og beskrives præcist, hvilke data der skal anvendes, herunder fra hvilke kilder samt hvor følsomme disse data anses for at være.

Rådet anbefaler i den forbindelse, at indhold, omfang og deling af borgernes personlige data begrænses mest muligt og ikke opbevares længere end højst nødvendigt. Rådet fremhæver i den forbindelse databeskyttelsesreglernes krav til formålsbegrænsning, tidsbegrænsning og dataminimering.

Dataetisk Råd anbefaler, at fejlsikring og sikkerhed i forhold til opbevaring og eventuel deling af data tænkes ind tidligt i projekterne, således at systemer baseret på kunstig intelligens kan håndtere fejl eller uoverensstemmelser og reagere hensigtsmæssigt på sådanne samt, at systemer og data ikke utilsigtet bliver tilgængelige for uvedkommende personer og på anden måde være modstandsdygtige over for angreb og forsøg på manipulation af data eller algoritmer.

Dataetisk Råd anbefaler derudover, at rådets samkøringsværktøj anvendes til alle signaturprojekter, der involverer samkøring af data, og at værktøjets brug indarbejdes i projekterne og i afrapporteringen med henblik på at understøtte etiske overvejelser i forbindelse med samkøring af data i den offentlige sektor. Der kan læses mere om rådets samkøringsværktøj via følgende link: Samkøring af data i det offentlige ved brug af nye teknologier | Dataetisk Råd (dataetiskraad.dk)
 
Det er endvidere Dataetisk Råds anbefaling, at projekterne baseres på gennemsigtighed for borgerne. Der bør informeres klart og forståeligt om behandlingen af borgernes data, det enkelte projekts formål, funktion, sikkerhed og begrænsninger.

Dataetisk Råd anbefaler yderligere, at signaturprojekterne, der involverer borgernes data, bygger på frivillighed og valgfrihed for borgerne.

Endelig er det Dataetisk Råds anbefaling, at der tænkes lighed ind i udviklingen af projekterne med henblik på at mindske problematiske bias i data. Det er endvidere rådets anbefaling, at der målrettet arbejdes for at også ressourcesvage og udsatte borgere får gavn af den teknologiske udvikling.

For at sikre at databehandlingen sker under behørig hensyntagen til de personer, den berører, anbefaler rådet endvidere, at de signaturprojekter, der i sidste ende sigter imod at forbedre forholdene for borgere eller medarbejdere, inddrager relevante faggrupper, brugergrupper og organisationer i overvejelserne af signaturprojekternes fordele og ulemper også i dataetisk henseende.

Rådet står til rådighed for uddybning og yderligere rådgivning i forhold til eventuelle dataetiske overvejelser i forbindelse med projekterne.

Med venlig hilsen for Dataetisk Råd


Johan Busse

Formand
 

Indenrigs- og boligminister Kaare Dybvad Bek 
Indenrigs- og Boligministeriet
Holmens Kanal 22 
1060 København K 
D. 24. september 2021

 

1. Dataetisk Råd er et regeringsnedsat forum, som bl.a. rådgiver Folketinget, ministre og offentlige myndigheder om dataetiske spørgsmål ved brugen af data og ny teknologi, herunder i lyset af de mange fordele, som brugen af data og ny teknologi kan give.
 
Rådet forholder sig til etiske spørgsmål om forholdet mellem på den ene side fordelene ved anvendelse af ny teknologi og på den anden side hensynet til borgernes grundlæggende rettigheder, retssikkerhed og grundlæggende samfundsmæssige værdier.
 
Ved forslag til lov om ændring af lov om Det Centrale Personregister (kommunernes kontrol med bopælsregistreringen i CPR m.v.), er der blandt andet stillet forslag om, at kommunerne under visse betingelser kan indhente kontoudskrifter fra borgernes pengeinstitutter uden borgernes samtykke, i det omfang sådanne oplysninger kan medvirke til at fastlægge de pågældendes bopælsforhold og andre oplysning ikke er tilstrækkelige.
 
Dataetisk Råd har ikke været hørt over lovforslaget, men finder det relevant at fremsætte bemærkninger.

2. Dataetisk Råd har følgende bemærkninger til lovforslaget:

Dataetisk Råd finder, at hensynet til et korrekt og retvisende CPR-register er et anerkendelsesværdigt formål, men det er rådets opfattelse, at den forslåede adgang til uden samtykke at indhente bankoplysninger i form af kontoudtog er dataetisk betænkeligt.
 
Lovforslaget indebærer, at kommunerne får adgang til at indhente oplysninger så at sige i blinde, dvs. uden på forhånd at vide eller kunne vide, om oplysningerne vil kunne anvendes til det givne formål (at fastslå borgerens bopæl).
 
En sådan indhentelse har uanset sin sit specifikke formål og sit afgrænsede anvendelsesområde efter rådets opfattelse karakter af fishing expedition eller datahøst og adskiller sig i øvrigt grundlæggende fra den måde myndigheder normalt oplyser sager i det offentlige, jf. retsgrundsætningen om offentlige myndigheders oplysningspligt.
 
Det er rådets opfattelse, at en sådan indsamling af oplysninger udgør et alvorligt indgreb i borgernes privatliv, som meget nøje bør afvejes i forhold til de gevinster, der søges opnået. Der ses ikke foretaget en nærmere analyse og vurdering heraf, og det er således uklart, hvorvidt indgrebet er proportionalt.
 
Efter rådets opfattelse bør vurderingen omfatte rimeligheden af at indsamle data om borgerne, uden at kommunerne reelt kan vide om indhentelsen vil forsyne kommunerne med relevante oplysninger og med overvejende sandsynlighed vil omfatte private oplysninger, som kommunerne under andre omstændigheder ikke vil være berettiget til at indhente – heller ikke med borgerens samtykke.
 
Dataetisk Råd anbefaler derfor, at der, inden lovforslaget fremsættes i Folketinget, foretages en analyse og vurdering af forslagets proportionalitet i forhold til de væsentlige dataetiske betænkeligheder, der er forbundet med indsamling af oplysninger i blinde og indsamling af unødvendige og efter omstændighederne meget private oplysninger.
 
Såfremt lovforslaget fremsættes, anbefaler rådet, at der fastsættes klare regler, som sikrer, at kommunerne ikke anvender de indhentede oplysninger til andet formål end det udtrykkeligt angivne og at oplysninger, som ikke kan anvendes til at fastslå borgernes bopæl, straks slettes.
 
Rådet anbefaler endvidere, at borgerne i muligt omfang orienteres inden indsamlingen og får mulighed for at gøre indsigelse imod indsamlingen, inden den iværksættes.
 
Rådet henviser i øvrigt til principperne i rådets værktøj til myndigheder, der arbejder med datasamkøring. Værktøjet skal understøtte, at offentlige myndigheder gør sig de nødvendige overvejelser forud for beslutninger om samkøring af data ved brug af nye teknologier og vil også kunne fungere som guide ved udarbejdelse af lovforslag til bredere, dataetiske overvejelser med henblik på at træffe beslutninger, der er dataetisk forsvarlige. 

Ud over dataetiske aspekter indebærer lovforslaget principielle spørgsmål vedrørende borgernes retssikkerhed, bankhemmeligheden mv., som ikke synes at være belyst i lovens forarbejder.
 
Lovforslaget ses endvidere at indebære en fravigelse af det forvaltningsretlige undersøgelsesprincip, der gælder for offentlige myndigheder om, at myndighederne alene må indhente nødvendige og relevante oplysninger til brug for behandling af en sag vedrørende konkrete borgere. Dette synes heller ikke at være belyst i lovens forarbejder.

Dataetisk Råd står til rådighed for uddybning, yderligere rådgivning mv. 


Med venlig hilsen for Dataetisk Råd


Johan Busse 
Formand