Høringssvar fra Dataetisk Råd i 2021

Dataetisk Råds formål er at skabe et forum, som dels kan skabe en dataetisk debat, dels løbende kan understøtte en ansvarlig og bæredygtig dataanvendelse i erhvervslivet og i den offentlige sektor.

Dataetisk Råd skal opnå formålet ved bl.a. rådgivning, anbefalinger, redegørelser og udtalelser om almene og principielle dataetiske spørgsmål samt anden debatskabende aktivitet.

En del af dette arbejde består i at udarbejde høringssvar. Nedenfor ses rådets afgivne høringssvar.

Digitaliseringsstyrelsen Landgreven 4
1301 København K
Den 5. maj 2021

Høringssvar over projektforslag til nye kommunale og regionale signaturprojekter om anvendelse af kunstig intelligens i den offentlige sektor

1.
Digitaliseringsstyrelsen, KL og Danske Regioner har ved e-mail af 19. april 2021 anmodet om Dataetisk Råds eventuelle bemærkninger til en række projektforslag til nye kommunale og regionale signaturprojekter, der skal give erfaringer med anvendelse af kunstig intelligens i den offentlige sektor.

Dataetisk Råd er tidligere blevet introduceret til signaturprojekterne og er senest i januar blevet præsenteret for to konkrete problemstillinger fra signaturprojekter, hvor projektlederne fik lejlighed til at præsentere og gå i dialog med rådet om dataetiske problemstillinger.

De i alt 27 projektforslag fordeler sig på overodnet på tre forskellige områder: klima (3 projektforslag), velfærd, herunder sundhed (15 projektforslag), og administration (9 projektforslag).

På klimaområdet kan kunstig intelligens ifølge projektparterne hjælpe klimaindsatsen ved at bidrage til en reduktion af mængden af drivhusgasser, f.eks. gennem intelligent energistyring i bygninger. Her kan algoritmer efter det oplyste prædiktere energibehovet, således at man ikke opvarmer bygninger på tidspunkter, hvor de ikke benyttes. Kunstig intelligens kan eksempelvis også efter det oplyste anvendes til at identificere kælder, dør- og portåbninger i 3D-bymodeller baseret på eksisterende luft- og skråfotos, hvor vandet vil løbe hen og derved danne vidensgrundlag for klimasikringstiltag, så man undgår oversvømmelser af boliger og infrastruktur.

På velfærdsområdet, herunder sundhedsområdet, kan kunstig intelligens ifølge projektparterne f.eks. benyttes til hurtigere og bedre billeddiagnostik ved f.eks. at understøtte lægen i at identificere tegn på kræft, lungesygdomme og slidgigt mv. og derved også fokusere anvendelsen af røntgen- og MR-scanninger. Tilrettelæggelse af indsatsen målrettet udsatte borgere ventes ifølge projektparterne også at kunne forbedres og understøttes ved brugen af kunstig intelligens. Eksempelvis kan teknologien efter det oplyste benyttes til f.eks. ved opsporing af underernæring hos ældre eller i visitationen af borgere til f.eks. genoptræningsforløb.

Endelig har en række projektforslag ifølge projektparterne til formål at anvende kunstig intelligens til at forbedre den offentlige administration og service. Det kan f.eks. være anvendelse af voicebots eller intelligent mailsortering. Kunstig intelligens kan efter det oplyste også understøtte en korrekt og hurtig sagsbehandling ved hjælp
 
af beslutningsstøtte i forbindelse med aktindsigter og bidrage til at effektivisere interne administrative processer.

2. Dataetisk Råd har følgende bemærkninger:

Dataetisk Råd finder det generelt positivt, at man med en række nye kommunale og regionale signaturprojekter ønsker at afsøge mulighederne for anvendelse af ny teknologi og herunder kunstig intelligens i den offentlige sektor.

Anvendelse af kunstig intelligens i den offentlige sektor er stadig på et tidligt stadie. Med signaturprojekterne kan der høstes erfaringer med anvendelse af teknologien med henblik på at udnytte teknologiske muligheder til at give en bedre og mere effektiv service til borgere og virksomheder.

Samtidig kan projekterne give indsigt i teknologiens begrænsninger og udfordringer, herunder i forhold til de dataetiske overvejelser som anvendelse af kunstig intelligens i den offentlige sektor giver anledning til.

Dataetisk Råd anbefaler, at det overvejes og udtrykkeligt dokumenteres, hvilke etiske overvejelser, der ligger til grund for projekterne i forhold til retssikkerhed, grundlæggende rettigheder og grundlæggende samfundsmæssige værdier. Rådet opfordrer til, at projekterne løbende og i afrapporteringen forholder sig til, dokumenterer og evaluerer etiske problemstillinger i forbindelse med projekterne, så det sikres, at relevante overvejelser og hensyn til etiske værdier integreres i databehandlingen.

Dataetisk Råd finder det generelt positivt, at en række af signaturprojekterne tematisk er udvalgt inden for områder, der ikke i sig selv synes at involvere borgernes personlige oplysninger. Denne udvælgelse flytter fokus fra spørgsmålet om, hvad vi kan bruge borgernes personlige oplysninger til, til spørgsmålet om, hvad ny teknologi og data i bred forstand har af nytteværdi.

Det er imidlertid rådets anbefaling, at det overvejes og beskrives præcist, hvilke data der skal anvendes, herunder fra hvilke kilder samt hvor følsomme disse data anses for at være.

Rådet anbefaler i den forbindelse, at indhold, omfang og deling af borgernes personlige data begrænses mest muligt og ikke opbevares længere end højst nødvendigt. Rådet fremhæver i den forbindelse databeskyttelsesreglernes krav til formålsbegrænsning, tidsbegrænsning og dataminimering.

Dataetisk Råd anbefaler, at fejlsikring og sikkerhed i forhold til opbevaring og eventuel deling af data tænkes ind tidligt i projekterne, således at systemer baseret på kunstig intelligens kan håndtere fejl eller uoverensstemmelser og reagere hensigtsmæssigt på sådanne samt, at systemer og data ikke utilsigtet bliver tilgængelige for uvedkommende personer og på anden måde være modstandsdygtige over for angreb og forsøg på manipulation af data eller algoritmer.

Dataetisk Råd anbefaler derudover, at rådets samkøringsværktøj anvendes til alle signaturprojekter, der involverer samkøring af data, og at værktøjets brug indarbejdes i projekterne og i afrapporteringen med henblik på at understøtte etiske overvejelser i forbindelse med samkøring af data i den offentlige sektor. Der kan læses mere om rådets samkøringsværktøj via følgende link: Samkøring af data i det offentlige ved brug af nye teknologier | Dataetisk Råd (dataetiskraad.dk)
 
Det er endvidere Dataetisk Råds anbefaling, at projekterne baseres på gennemsigtighed for borgerne. Der bør informeres klart og forståeligt om behandlingen af borgernes data, det enkelte projekts formål, funktion, sikkerhed og begrænsninger.

Dataetisk Råd anbefaler yderligere, at signaturprojekterne, der involverer borgernes data, bygger på frivillighed og valgfrihed for borgerne.

Endelig er det Dataetisk Råds anbefaling, at der tænkes lighed ind i udviklingen af projekterne med henblik på at mindske problematiske bias i data. Det er endvidere rådets anbefaling, at der målrettet arbejdes for at også ressourcesvage og udsatte borgere får gavn af den teknologiske udvikling.

For at sikre at databehandlingen sker under behørig hensyntagen til de personer, den berører, anbefaler rådet endvidere, at de signaturprojekter, der i sidste ende sigter imod at forbedre forholdene for borgere eller medarbejdere, inddrager relevante faggrupper, brugergrupper og organisationer i overvejelserne af signaturprojekternes fordele og ulemper også i dataetisk henseende.

Rådet står til rådighed for uddybning og yderligere rådgivning i forhold til eventuelle dataetiske overvejelser i forbindelse med projekterne.

Med venlig hilsen for Dataetisk Råd


Johan Busse

Formand
 

Indenrigs- og boligminister Kaare Dybvad Bek 
Indenrigs- og Boligministeriet
Holmens Kanal 22 
1060 København K 
D. 24. september 2021

 

1. Dataetisk Råd er et regeringsnedsat forum, som bl.a. rådgiver Folketinget, ministre og offentlige myndigheder om dataetiske spørgsmål ved brugen af data og ny teknologi, herunder i lyset af de mange fordele, som brugen af data og ny teknologi kan give.
 
Rådet forholder sig til etiske spørgsmål om forholdet mellem på den ene side fordelene ved anvendelse af ny teknologi og på den anden side hensynet til borgernes grundlæggende rettigheder, retssikkerhed og grundlæggende samfundsmæssige værdier.
 
Ved forslag til lov om ændring af lov om Det Centrale Personregister (kommunernes kontrol med bopælsregistreringen i CPR m.v.), er der blandt andet stillet forslag om, at kommunerne under visse betingelser kan indhente kontoudskrifter fra borgernes pengeinstitutter uden borgernes samtykke, i det omfang sådanne oplysninger kan medvirke til at fastlægge de pågældendes bopælsforhold og andre oplysning ikke er tilstrækkelige.
 
Dataetisk Råd har ikke været hørt over lovforslaget, men finder det relevant at fremsætte bemærkninger.

2. Dataetisk Råd har følgende bemærkninger til lovforslaget:

Dataetisk Råd finder, at hensynet til et korrekt og retvisende CPR-register er et anerkendelsesværdigt formål, men det er rådets opfattelse, at den forslåede adgang til uden samtykke at indhente bankoplysninger i form af kontoudtog er dataetisk betænkeligt.
 
Lovforslaget indebærer, at kommunerne får adgang til at indhente oplysninger så at sige i blinde, dvs. uden på forhånd at vide eller kunne vide, om oplysningerne vil kunne anvendes til det givne formål (at fastslå borgerens bopæl).
 
En sådan indhentelse har uanset sin sit specifikke formål og sit afgrænsede anvendelsesområde efter rådets opfattelse karakter af fishing expedition eller datahøst og adskiller sig i øvrigt grundlæggende fra den måde myndigheder normalt oplyser sager i det offentlige, jf. retsgrundsætningen om offentlige myndigheders oplysningspligt.
 
Det er rådets opfattelse, at en sådan indsamling af oplysninger udgør et alvorligt indgreb i borgernes privatliv, som meget nøje bør afvejes i forhold til de gevinster, der søges opnået. Der ses ikke foretaget en nærmere analyse og vurdering heraf, og det er således uklart, hvorvidt indgrebet er proportionalt.
 
Efter rådets opfattelse bør vurderingen omfatte rimeligheden af at indsamle data om borgerne, uden at kommunerne reelt kan vide om indhentelsen vil forsyne kommunerne med relevante oplysninger og med overvejende sandsynlighed vil omfatte private oplysninger, som kommunerne under andre omstændigheder ikke vil være berettiget til at indhente – heller ikke med borgerens samtykke.
 
Dataetisk Råd anbefaler derfor, at der, inden lovforslaget fremsættes i Folketinget, foretages en analyse og vurdering af forslagets proportionalitet i forhold til de væsentlige dataetiske betænkeligheder, der er forbundet med indsamling af oplysninger i blinde og indsamling af unødvendige og efter omstændighederne meget private oplysninger.
 
Såfremt lovforslaget fremsættes, anbefaler rådet, at der fastsættes klare regler, som sikrer, at kommunerne ikke anvender de indhentede oplysninger til andet formål end det udtrykkeligt angivne og at oplysninger, som ikke kan anvendes til at fastslå borgernes bopæl, straks slettes.
 
Rådet anbefaler endvidere, at borgerne i muligt omfang orienteres inden indsamlingen og får mulighed for at gøre indsigelse imod indsamlingen, inden den iværksættes.
 
Rådet henviser i øvrigt til principperne i rådets værktøj til myndigheder, der arbejder med datasamkøring. Værktøjet skal understøtte, at offentlige myndigheder gør sig de nødvendige overvejelser forud for beslutninger om samkøring af data ved brug af nye teknologier og vil også kunne fungere som guide ved udarbejdelse af lovforslag til bredere, dataetiske overvejelser med henblik på at træffe beslutninger, der er dataetisk forsvarlige. 

Ud over dataetiske aspekter indebærer lovforslaget principielle spørgsmål vedrørende borgernes retssikkerhed, bankhemmeligheden mv., som ikke synes at være belyst i lovens forarbejder.
 
Lovforslaget ses endvidere at indebære en fravigelse af det forvaltningsretlige undersøgelsesprincip, der gælder for offentlige myndigheder om, at myndighederne alene må indhente nødvendige og relevante oplysninger til brug for behandling af en sag vedrørende konkrete borgere. Dette synes heller ikke at være belyst i lovens forarbejder.

Dataetisk Råd står til rådighed for uddybning, yderligere rådgivning mv. 


Med venlig hilsen for Dataetisk Råd


Johan Busse 
Formand
 

Konkurrence- og Forbrugerstyrelsen
Carl Jacobsens Vej 35
2500 Valby

 

1. Indledende bemærkninger

Konkurrence- og Forbrugerstyrelsen har ved e-mail af 20. december 2021 anmodet om Dataetisk Råds eventuelle bemærkninger til udkast til lovforslag om regulering af sociale medier.

Dataetisk Råd rådgiver regeringen og Folketinget om dataetiske spørgsmål, herunder i forbindelse med ny lovgivning. Rådets høringssvar er derfor begrænset til dataetiske spørgsmål.

Lovforslaget pålægger tjenesteudbydere af kommunikationsplatforme at etablere procedurer for håndtering af klager over ulovligt indhold inden for specifikke tidsfrister, herunder skal ”åbenlyst ulovligt” indhold være fjernet inden for 24 timer. Lovforslaget vedrører sociale platforme, gruppebeskedtjenester samt en række store dating- og gaming-platforme med over 100.000 danske brugere årligt. Ulovligt indhold defineres ikke særskilt i lovforslaget, men omfatter enhver form for indhold, der strider mod gældende dansk ret.

Det følger videre af forslaget, at tjenesteudbydere skal etablere en procedure for efterprøvelse af deres afgørelser og har oplysningsforpligtelse over for både anmeldere og de brugere, som får fjernet eller blokeret deres indhold.

Samtidig pålægges tjenesteudbyderne at offentliggøre rapporter, der indeholder beskrivelser af deres system til at kontrollere indhold samt statistiske opgørelser over, hvor meget og hvor hurtigt indhold fjernes i henhold til dansk lov.

Forslaget skal ses i sammenhæng med de aktuelle initiativer på EU-niveau. Blandt andet har Kommissionen fremlagt forslaget ”Digital Services Act” og ”Digital Markets Act”, der skal færdigbehandles i 2022. EU har også vedtaget fremlagt forordningen ”Terrorist Content Online Regulation”, der træder i kraft 7. juni 2022, og som pålægger tjenesteudbydere at fjerne terrorrelateret indhold inden for en time efter anmeldelse fra myndigheder.

Nærmere om lovforslagets forhold til dataetisk

Lovforslaget handler grundlæggende om at skærpe de gældende krav om, at visse private virksomheder skal fjerne ulovligt indhold, således at indholdet skal fjernes hurtigere og efter en mere sikker og gennemsigtig procedure. Da det må anses for i strid med god dataetik, hvis virksomheder ikke fjerne ulovligt indhold, berører lovforslaget dataetiske spørgsmål.

Dataetisk Råd skal gøre opmærksom på, at lovforslaget kun vedrører ulovligt indhold, og at det også kan være uetisk, såfremt virksomheder ikke fjerne lovligt indhold. Det kan således være uetisk ikke at fjerne indhold så som tekst- eller billeddata, som en person ikke (længere) ønsker tilgængeligt på f.eks. et socialt medie. Det kan også være uetisk at formidle f.eks. hadsk tale eller andet indhold, som har en negativ indvirkning på borgere eller samfund. En dataetisk tilgang til f.eks. sociale medier rejser således en række vanskelige spørgsmål også om ytringsfrihedens grænser.

Efter Dataetisk Råds opfattelse må det anses for uetisk ikke at fjerne ulovligt indhold. Rådet anerkender derfor, at man fra politisk side forholder sig til indhold på sociale medier mv. og sikrer rettigheder i forbindelse med behandling af klager om indhold. Ligeledes finder Dataetisk Råd det hensigtsmæssigt, at der med lovforslaget fastlægges forpligtelser og processuelt ansvar for regulering af indholdet på sociale medier, og at lovforslaget omfatter såvel danske som internationale tjenesteudbydere.

Lovforslagets overordnede formål ses at være i overensstemmelse med dataetiske principper, men lovforslaget rummer også elementer, som Dataetisk Råd har betænkeligheder ved og som bør overvejes nærmere.

I det følgende gennemgås nogle dataetiske aspekter af lovforslaget med udgangspunkt i de 10 principper for dataetik, som Dataetisk Råd arbejder ud fra, og som kan findes i publikationen Dataetik – Sådan gør du.

2. Dataetisk Råd har følgende bemærkninger til lovforslaget:

Retssikkerhed
Som dataetisk princip handler retssikkerhed om, at data skal behandles med respekt for grundlæggende retssikkerhedsmæssige garantier. I lovforslaget kommer det til udtryk i form af de rettigheder, som brugeren har i forbindelse med tjenesteudbyderens behandling af klager over indhold.

Lovforslaget vil bidrage til at skabe større klarhed om forpligtelsen for sociale medier mv. og til at etablere klagesystemer med visse minimumskrav. Rådet finder det vigtigt, at rettighederne både gælder for dem, der klager over indhold, og for dem, hvis indhold der klages over. Rådet finder det derfor relevant som foreslået at give mulighed for at appellere afgørelser om at fjerne eller fastholde indhold, der er blevet klaget over.

Rådet peger på, at det også kan overvejes om forslaget bør indeholde regulering af ansvaret for store tjenesteudbydere i relation til borgere, som lider skade, såfremt åbenbart ulovligt indholdet ikke fjernes rettidigt samt i forhold til brugere, hvis indhold fjernes uretmæssigt.

Lovforslaget stiller også krav om, at tjenesteudbydere skal implementere de nye krav på en måde, der er nem og tilgængelig for brugeren, hvilket rådet finder positivt.

Dette gælder også forslaget om at gøre det muligt for brugere at klage til Konkurrence- og Forbrugerstyrelsen over tjenesteudbydernes proces for behandlingen af klagen.

Omvendt noterer Dataetisk Råd sig, at lovforslaget ikke etablerer et uafhængigt klagenævn eller lignende, der kan behandle klager om at nedtage eller ikke nedtage indhold, der menes eller ikke menes at være klart ulovligt. Det betyder, at det er op til eventuelle skadelidte selv igennem retssager mv. at holde tjenesteudbyderne ansvarlige for skadevoldende beslutninger. Loven indeholder ikke et klart svar på skadelidtes handlemuligheder i den forbindelse.

Rådet anerkender, at spørgsmålet om, hvordan man bedst sikrer brugeres retssikkerhed i forhold til beslutninger om nedtagning/ikke-nedtagning er komplekst. Men spørgsmålet er ikke desto mindre af relevans for sikring af ansvarlige tjenester, og rådet henleder derfor opmærksomheden på, at brugerens retssikkerhed på dette område på nuværende tidspunkt er svag, og at adgangen til prøvelse ikke er let.

I forlængelse af de dataetiske overvejelser omkring brugernes retssikkerhed, er det også et dataetisk princip, at brugerne får den fornødne information til at kunne handle og gøre brug af deres brugerrettigheder. Uanset om lovforslaget kan skabe større klarhed over rettigheder, pligter og klagemuligheder for en del af de sociale medier mv., er det fortsat særdeles vanskeligt for brugere og andre berørte personer at overskue disse.

Selve lovforslaget er i sig selv komplekst og vanskeligt at overskue, ligesom der f.eks. henvises til et indforstået begreb, ”lex specialis”, ved afgrænsning af loven over for anden lovregulering, der kan indeholde rettigheder, pligter og klagemuligheder.

Rådet finder, at lovforslaget kunne have større effekt, hvis det udbygges med en generel informations- og vejledningsforpligtelse for Konkurrence- og Forbrugerstyrelsen i forhold til. spørgsmål vedrørende rettigheder, pligter og klagemuligheder på sociale medier mv.

Ytrings- og informationsfrihed
I dataetisk sammenhæng drejer ytrings- og informationsfrihed om, at data skal behandles med respekt for grundlæggende demokratiske frihedsrettigheder. Det gælder også for behandlingen af brugergenereret data og andet indhold på sociale medier.

Regulering af indholdet på sociale medier mv. har væsentlige aspekter vedrørende ytrings- og informationsfrihed og er principielt. Dette gælder særligt i et højt digitaliseret demokratisk samfund, som det danske, hvor borgere, virksomheder, organisationer samt politikere og andre meningsdannere i høj grad kommunikerer via sociale medier mv.

F.eks. kan kravet om at fjerne ’åbenlyst ulovligt’ indhold inden for 24 timer under risiko for bødestraf i sig selv indebære, at tjenesteudbyderne af forsigtighedshensyn unødigt begrænser brugernes informations- og ytringsfrihed. Det må anses for at være i strid med god dataetik.

Lovforslaget og bemærkningerne hertil synes imidlertid kun ganske sporadisk at forholde sig til sådanne principielle overvejelser, og det er ikke muligt at se, hvilke overvejelser der er gjort, i forhold til afvejningen mellem de relevante og i nogle tilfælde modstående hensyn.

Dataetisk Råd anbefaler, at lovforslagets implikationer for informations- og ytringsfriheden overvejes nærmere, og at det endelige lovforslag indeholder nærmere begrundelse vedrørende dette forhold.

Gennemsigtighed
Gennemsigtighed er et generelt dataetisk princip, der handler om at sikre åbenhed og indblik i, hvordan data bliver behandlet. Gennemsigtighed bidrager til, at vi som brugere og samfund kan have tillid til resultaterne af databehandlingen. I lyset af den stigende rolle, som sociale medier spiller i den demokratiske samtale, er det vigtigt, at vi kan have tillid til
kvaliteten af indholdskontrollen. Det er efter Dataetisk Råds opfattelse positivt, at et væsentligt formål med lovforslaget er at fremme transparens og åbenhed, der begge er afgørende for tillid.

Lovforslaget stiller krav om udarbejdelsen af transparensrapporter fra de tjenesteudbydere, der er omfattet af loven. Rapporterne skal indeholde en beskrivelse af de processer, der anvendes til at kontrollere indhold, og rapporterne kan bidrage til at kaste lys over et arbejde, der i dag ikke er meget detaljeret viden om i offentligheden. Samtidig skal tjenesteudbyderne inkludere statistiske opgørelser over, hvor meget indhold de fjerner inden for forskellige tidsfrister, hvilket også er af betydning for tilliden til systemerne og afgørende for vurderingen af omfanget af ulovligt indhold mv.

For at øge brugbarheden af rapporterne anbefaler rådet, at lovforslaget stiller flere krav til beskrivelserne af det algoritmiske grundlag. I lovforslagets nuværende formulering skal tjenesteudbyderne kun inkludere ”driftsprincipper”, men lovforslaget bør gå længere og pålægge tjenesteudbyderne at beskrive de algoritmer, der anvendes i forbindelse med indholdskontrol, ligesom det bør beskrives, hvordan de virker. Det vil også bidrage til gennemsigtigheden, hvis tjenesteudbyderne ikke blot afgiver ”generelle oplysninger om de anvendte træningsdata” men pålægges at skabe reel indsigt i træningsdata. Såfremt der er bekymring for, at fuld offentliggørelse af sådanne oplysninger kan medføre, at personer kan omgå algoritmerne eller frygt for afsløring af forretningshemmeligheder, kan informationen eventuelt udveksles i fortrolighed med myndigheder og udvalgte eksperter.

Trods krav om transparensrapporter rejser principielle dataetiske spørgsmål sig om brugen af algoritmer til kontrol af indhold på tjenester og i behandlingen af klager. For at styrke tilliden bør der, som nævnt, være gennemsigtighed i forhold til algoritmers grundlag og funktion, ligesom der bør være åbenhed omkring algoritmens begrænsninger. Dataetisk Råd bemærker, at de algoritmiske kontrolværktøjer, der kan anvendes som led i klagebehandling, ikke i alle tilfælde kan garanteres at have den nødvendige præcision og kontekstforståelse til at kunne bruges ved vurderingen af ulovligt indhold.

Der er på tværs af tjenesteudbydere forskellige procedurer for indholdskontrol og efter rådets oplysninger benytter ikke alle tjenesteudbydere såkaldte hybride systemer, der indeholder både automatiske, algoritmebaserede værktøjer samt menneskelige moderatorer. Der er efter rådets opfattelse ikke aktuelt fornøden sikkerhed for, at en ren maskinel afgørelse vil have tilstrækkelig kvalitet til, at det bør overlades til tjenesteudbyderene at vælge en ren algoritmisk afgørelsesform. Taget den store mængde af indhold, der skal behandles på kort tid, i betragtning, vil en stor del af påklaget indhold derfor med stor sandsynlighed blive behandlet af algoritmer, og det åbner for, at indhold bliver nedtaget på et fejlbehæftet grundlag.


Dette forhold finder rådet generelt betænkeligt og særligt betænkeligt på områder, hvor indholdskontrollen skal foregå i realtid og kontrollen derfor må formodes at være fuldstændigt automatiseret, f.eks. ved kontrol af ulovligt indhold på gamingtjenester o.lign.

Dataetisk Råd foreslår, at dette forhold overvejes nærmere og behandles i det endelige lovforslag.

Privacy
Retten til privatliv er en grundlæggende dataetisk værdi, der betyder, at behandling af data foregår med respekt for privatlivets fred og under beskyttelse af personlige oplysninger.

Lovforslaget er også møntet på f.eks. datingtjenester, hvor indhold i modsætning til sociale medier i høj grad forbliver privat, og hvor der er ofte tale om meget personlige samtaler. Kontrol af indhold på sådanne tjenester indebærer, at indhold, der klages over, bliver behandlet af et centralt system og kommer til flere personers kendskab, hvilket åbner for mulig lækage af data. Selv om kontrol af indhold er et anerkendelsesværdigt formål, bør lovforslaget præcisere, at implementeringen af indholdskontrol og klagemuligheder i forhold til kommunikation på datingsider og andre rum, der opfattes som fortrolige, i videst muligt omfang bør foregå efter privacy-by-design principper, og det bør sikres at det involverede personale iagttager særlig tavshedspligt.

Afsluttende kommentarer

Dataetisk Råd anerkender som nævnt indledningsvist, at man fra politisk side forholder sig til indhold på sociale medier mv. og sikrer rettigheder i forbindelse med behandling af klager om indhold.

Rådet finder dog anledning til at bemærke, at selv om lovforslaget vil føre til klarere rammer for indholdskontrol og brugerrettigheder især i forhold til tidsfrister, skal man ikke forvente, at lovforslaget vil komme alle relevante problemer med ulovligt indhold på sociale medier til livs.

De store tjenesteudbydere, som lovforslaget er rettet imod, udfører allerede i dag en omfattende indholdskontrol med udgangspunkt i retningslinjer, som hver enkelt platform har udarbejdet. I mange tilfælde vil ulovligt indhold allerede være omfattet af disse retningslinjer.

Forslaget bygger på, at der ikke må gå mere end 24 timer fra et givent socialt medie opdager åbenlyst ulovligt indhold på platformen til det er fjernet. Det betyder, at det pågældende åbenlyse ulovlige indhold kan blive delt bredt og set de første 24 timer (og eventuelt kopieret) af mange mennesker. Omvendt kunne en kortere tidsgrænse rejse andre alvorlige problemstillinger om informations- og ytringsfriheden. Det er et politisk spørgsmål, hvor hurtigt (åbenlyst ulovligt indhold) skal fjernes.

Dataetisk Råd finder desuden anledning til at fremhæve, at lovforslaget ikke adresserer behandlingen af lovligt, men uønsket eller uetisk indhold. Det kan være indhold, der er misvisende eller indeholder usande påstande om faktiske forhold. Det er et komplekst spørgsmål, der bl.a. indebærer en afvejning imellem ytringsfrihed og den individuelle og samfundsmæssige interesse i at begrænse visse typer af indhold på sociale medier mv.

Dataetisk Råd er grundlæggende enig i, at virksomheders pligt til at fjerne indhold ikke skal reguleres med henvisning til etiske eller lignende standarder, men at der også fremover skal reguleres ud fra, om indholdet er lovligt eller ulovligt.