Dataetisk Råd sætter fokus på generativ AI i det offentlige

Publiceret 05-02-2025

Generativ kunstig intelligens (GenAI) vinder hastigt indpas i den offentlige sektor. Teknologien kan hjælpe med at søge information og producere tekst, men den rejser samtidig væsentlige dataetiske spørgsmål. Hvordan sikrer vi at GenAI bruges ansvarligt, uden at gå på kompromis med medarbejderes faglighed og borgernes tillid?

Dataetisk Råd har undersøgt offentlige myndigheders brug af GenAI, og præsenterer nu otte anbefalinger.

Risiko for fejl er en dataetisk udfordring

Generativ AI kan skabe overbevisende tekst, billeder og lyd, men teknologien er ikke fejlfri. Den kan producere forkerte, misvisende eller mangelfulde oplysninger. Denne risiko for fejl er en central udfordring for offentlige myndigheders brug af teknologien. Myndigheder skal kunne stole på de oplysninger, systemerne genererer, samtidig med at borgerne har ret til korrekt information.

Rådets anbefalinger

For at sikre ansvarlig anvendelse af GenAI anbefaler Dataetisk Råd blandt andet:

✅ Offentlige myndigheder bør starte med brugsscenarier med lav risiko.
✅ De mennesker, som skal kontrollere GenAI-indhold, skal have de nødvendige ressourcer.
✅ Myndigheder bør forebygge fejl, og sikre at fejl identificeres og håndteres når de opstår.
✅ Regeringen bør udvikle fælles retningslinjer for GenAI i det offentlige.
✅ Der bør etableres et nationalt register over GenAI-systemer i brug.

Med disse anbefalinger ønsker Dataetisk Råd at understøtte dataetisk udvikling og anvendelse af GenAI i det offentlige.

🔎 Læs om generativ AI og offentlige myndigheder her