Høringssvar fra Dataetisk Råd i 2021

Dataetisk Råds formål er at skabe et forum, som dels kan skabe en dataetisk debat, dels løbende kan understøtte en ansvarlig og bæredygtig dataanvendelse i erhvervslivet og i den offentlige sektor.

Dataetisk Råd skal opnå formålet ved bl.a. rådgivning, anbefalinger, redegørelser og udtalelser om almene og principielle dataetiske spørgsmål samt anden debatskabende aktivitet.

En del af dette arbejde består i at udarbejde høringssvar. Nedenfor ses rådets afgivne høringssvar.

Sekretariatet for
Dataetisk Råd

post@dataetiskraad.dk www.dataetiskraad.dk

Digitaliseringsstyrelsen Landgreven 4
1301 København K
Den 5. maj 2021

Høringssvar over projektforslag til nye kommunale og regionale signaturprojekter om anvendelse af kunstig intelligens i den offentlige sektor

1.
Digitaliseringsstyrelsen, KL og Danske Regioner har ved e-mail af 19. april 2021 anmodet om Dataetisk Råds eventuelle bemærkninger til en række projektforslag til nye kommunale og regionale signaturprojekter, der skal give erfaringer med anvendelse af kunstig intelligens i den offentlige sektor.

Dataetisk Råd er tidligere blevet introduceret til signaturprojekterne og er senest i januar blevet præsenteret for to konkrete problemstillinger fra signaturprojekter, hvor projektlederne fik lejlighed til at præsentere og gå i dialog med rådet om dataetiske problemstillinger.

De i alt 27 projektforslag fordeler sig på overodnet på tre forskellige områder: klima (3 projektforslag), velfærd, herunder sundhed (15 projektforslag), og administration (9 projektforslag).

På klimaområdet kan kunstig intelligens ifølge projektparterne hjælpe klimaindsatsen ved at bidrage til en reduktion af mængden af drivhusgasser, f.eks. gennem intelligent energistyring i bygninger. Her kan algoritmer efter det oplyste prædiktere energibehovet, således at man ikke opvarmer bygninger på tidspunkter, hvor de ikke benyttes. Kunstig intelligens kan eksempelvis også efter det oplyste anvendes til at identificere kælder, dør- og portåbninger i 3D-bymodeller baseret på eksisterende luft- og skråfotos, hvor vandet vil løbe hen og derved danne vidensgrundlag for klimasikringstiltag, så man undgår oversvømmelser af boliger og infrastruktur.

På velfærdsområdet, herunder sundhedsområdet, kan kunstig intelligens ifølge projektparterne f.eks. benyttes til hurtigere og bedre billeddiagnostik ved f.eks. at understøtte lægen i at identificere tegn på kræft, lungesyg- domme og slidgigt mv. og derved også fokusere anvendelsen af røntgen- og MR-scanninger. Tilrettelæggelse af indsatsen målrettet udsatte borgere ventes ifølge projektparterne også at kunne forbedres og understøttes ved brugen af kunstig intelligens. Eksempelvis kan teknologien efter det oplyste benyttes til f.eks. ved opsporing af underernæring hos ældre eller i visitationen af borgere til f.eks. genoptræningsforløb.

Endelig har en række projektforslag ifølge projektparterne til formål at anvende kunstig intelligens til at forbedre den offentlige administration og service. Det kan f.eks. være anvendelse af voicebots eller intelligent mailsortering. Kunstig intelligens kan efter det oplyste også understøtte en korrekt og hurtig sagsbehandling ved hjælp
 
af beslutningsstøtte i forbindelse med aktindsigter og bidrage til at effektivisere interne administrative processer.

2. Dataetisk Råd har følgende bemærkninger:

Dataetisk Råd finder det generelt positivt, at man med en række nye kommunale og regionale signaturprojekter ønsker at afsøge mulighederne for anvendelse af ny teknologi og herunder kunstig intelligens i den offentlige sektor.

Anvendelse af kunstig intelligens i den offentlige sektor er stadig på et tidligt stadie. Med signaturprojekterne kan der høstes erfaringer med anvendelse af teknologien med henblik på at udnytte teknologiske muligheder til at give en bedre og mere effektiv service til borgere og virksomheder.

Samtidig kan projekterne give indsigt i teknologiens begrænsninger og udfordringer, herunder i forhold til de dataetiske overvejelser som anvendelse af kunstig intelligens i den offentlige sektor giver anledning til.

Dataetisk Råd anbefaler, at det overvejes og udtrykkeligt dokumenteres, hvilke etiske overvejelser, der ligger til grund for projekterne i forhold til retssikkerhed, grundlæggende rettigheder og grundlæggende samfundsmæssige værdier. Rådet opfordrer til, at projekterne løbende og i afrapporteringen forholder sig til, dokumenterer og evaluerer etiske problemstillinger i forbindelse med projekterne, så det sikres, at relevante overvejelser og hensyn til etiske værdier integreres i databehandlingen.

Dataetisk Råd finder det generelt positivt, at en række af signaturprojekterne tematisk er udvalgt inden for områder, der ikke i sig selv synes at involvere borgernes personlige oplysninger. Denne udvælgelse flytter fokus fra spørgsmålet om, hvad vi kan bruge borgernes personlige oplysninger til, til spørgsmålet om, hvad ny teknologi og data i bred forstand har af nytteværdi.

Det er imidlertid rådets anbefaling, at det overvejes og beskrives præcist, hvilke data der skal anvendes, herunder fra hvilke kilder samt hvor følsomme disse data anses for at være.

Rådet anbefaler i den forbindelse, at indhold, omfang og deling af borgernes personlige data begrænses mest muligt og ikke opbevares længere end højst nødvendigt. Rådet fremhæver i den forbindelse databeskyttelsesreglernes krav til formålsbegrænsning, tidsbegrænsning og dataminimering.

Dataetisk Råd anbefaler, at fejlsikring og sikkerhed i forhold til opbevaring og eventuel deling af data tænkes ind tidligt i projekterne, således at systemer baseret på kunstig intelligens kan håndtere fejl eller uoverensstemmelser og reagere hensigtsmæssigt på sådanne samt, at systemer og data ikke utilsigtet bliver tilgængelige for uvedkommende personer og på anden måde være modstandsdygtige over for angreb og forsøg på manipulation af data eller algoritmer.

Dataetisk Råd anbefaler derudover, at rådets samkøringsværktøj anvendes til alle signaturprojekter, der invol- verer samkøring af data, og at værktøjets brug indarbejdes i projekterne og i afrapporteringen med henblik på at understøtte etiske overvejelser i forbindelse med samkøring af data i den offentlige sektor. Der kan læses mere om rådets samkøringsværktøj via følgende link: https://dataetiskraad.dk/samkoering-af-data-i-det-offent- lige-ved-brug-af-nye-teknologier
 
Det er endvidere Dataetisk Råds anbefaling, at projekterne baseres på gennemsigtighed for borgerne. Der bør informeres klart og forståeligt om behandlingen af borgernes data, det enkelte projekts formål, funktion, sikkerhed og begrænsninger.

Dataetisk Råd anbefaler yderligere, at signaturprojekterne, der involverer borgernes data, bygger på frivillighed og valgfrihed for borgerne.

Endelig er det Dataetisk Råds anbefaling, at der tænkes lighed ind i udviklingen af projekterne med henblik på at mindske problematiske bias i data. Det er endvidere rådets anbefaling, at der målrettet arbejdes for at også ressourcesvage og udsatte borgere får gavn af den teknologiske udvikling.

For at sikre at databehandlingen sker under behørig hensyntagen til de personer, den berører, anbefaler rådet endvidere, at de signaturprojekter, der i sidste ende sigter imod at forbedre forholdene for borgere eller med- arbejdere, inddrager relevante faggrupper, brugergrupper og organisationer i overvejelserne af signaturprojekternes fordele og ulemper også i dataetisk henseende.

Rådet står til rådighed for uddybning og yderligere rådgivning i forhold til eventuelle dataetiske overvejelser i forbindelse med projekterne.

Med venlig hilsen for Dataetisk Råd


Johan Busse

Formand