Dataetisk Råd har undersøgt offentlige myndigheders brug af GenAI, og præsenterer nu otte anbefalinger.
Risiko for fejl er en dataetisk udfordring
Generativ AI kan skabe overbevisende tekst, billeder og lyd, men teknologien er ikke fejlfri. Den kan producere forkerte, misvisende eller mangelfulde oplysninger. Denne risiko for fejl er en central udfordring for offentlige myndigheders brug af teknologien. Myndigheder skal kunne stole på de oplysninger, systemerne genererer, samtidig med at borgerne har ret til korrekt information.
Rådets anbefalinger
For at sikre ansvarlig anvendelse af GenAI anbefaler Dataetisk Råd blandt andet:
✅ Offentlige myndigheder bør starte med brugsscenarier med lav risiko.
✅ De mennesker, som skal kontrollere GenAI-indhold, skal have de nødvendige ressourcer.
✅ Myndigheder bør forebygge fejl, og sikre at fejl identificeres og håndteres når de opstår.
✅ Regeringen bør udvikle fælles retningslinjer for GenAI i det offentlige.
✅ Der bør etableres et nationalt register over GenAI-systemer i brug.
Med disse anbefalinger ønsker Dataetisk Råd at understøtte dataetisk udvikling og anvendelse af GenAI i det offentlige.
🔎 Læs om generativ AI og offentlige myndigheder her