Om generativ AI

(GenAI) er kunstig intelligens, som kan skabe realistiske billeder og videoer, musik og stemmer, og mange forskellige slags tekster. Gennembruddet for generativ AI kom med udviklingen af store sprogmodeller (LLM'er), som lader den kunstige intelligens arbejde med naturligt sprog. Ved at bruge en stor sprogmodel bliver generativ AI i stand til at skabe indhold baseret på simple beskeder fra brugeren – såkaldte prompt – og til at lave meningsfuld tekst af høj kvalitet.

Selvom generativ AI kan skabe imponerende resultater, rejser teknologien også dataetiske udfordringer. Generativ AI kan for eksempel misbruges til at skabe misinformation, og det AI-skabte indhold kan reproducere fordomme og negative stereotyper. En central udfordring er, at generativ AI kan "hallucinere", og skabe tekster eller billeder, som er faktuelt forkerte.

Hvordan tackler vi de dataetiske udfordringer, som generativ AI rejser? Hvilke forholdsregler bør man tage, når man anvender teknologien? Og er der situationer, hvor man bør lade være med at anvende generativ AI, fordi det er for risikabelt?

Dataetisk Råds rapport ’Generativ AI - fejl og kvalitetssikring’

Dataetisk Råds rapport ”Generativ AI og offentlige myndigheder” går i dybden med hvordan offentlige myndigheder bør tackle udfordringen med risikoen for fejl, når de anvender generativ AI, og præsenterer rådets 8 anbefalinger til myndigheder og politiske beslutningstagere.

Læs rapporten her

Dataetisk Råds anbefalinger

1. Offentlige myndigheder bør begynde eventuel udforskning og anvendelse af GenAI med brugsscenarier, hvor anvendelsen har lav risikoprofil, og inddrage interessenter i udvikling og evaluering af systemer.

2. Offentlige myndigheder bør skelne mellem GenAI-systemer med høj og lav risikoprofil, og kun bruge GenAI, når myndigheden har indført tilstrækkelige mitigerende tiltag til at begrænse risikoen for fejl.

3. Offentlige myndigheder bør systematisk vurdere GenAI-systemers samlede risikoprofil for fejl i hvert enkelt brugsscenarie.

4. Offentlige myndigheder bør gennemføre mere omfattende kvalitetssikring af et GenAI-system, jo højere systemets risikoprofil er.

5. Offentlige myndigheder bør oplyse, hvordan de anvender menneskelig kvalitetskontrol af GenAI, og tildele relevante medarbejdere de nødvendige ressourcer.

6. Offentlige myndigheder bør indføre nødvendige forholdsregler til at identificere, dokumentere, oplyse og korrigere fejl, inden de tager et GenAI-system i brug.

7. Regeringen bør udvikle fælles retningslinjer for offentlige myndigheders anvendelse af GenAI, som slår fast, hvordan myndigheder skal håndtere risikoen for fejl.

8. Regeringen bør oprette et nationalt, offentligt register over GenAI-systemer, som anvendes af offentlige myndigheder.

Læs anbefalingerne her

Hvad er generativ AI?

Dataetisk Råds techsplainer ”Hvad er generativ AI?” giver en letforståelig introduktion til generativ AI som teknologi. Den forklarer hvordan generativ AI udvikles og fungerer, inklusiv dybe neurale netværk, maskinlæring, fintuning, transformer-arkitekturen, indholdshegn og RAG-modeller.

I faktaarket finder du en overskuelig oversigt over de forskellige typer GenAI, udviklingen og funktionen samt de Dataetiske udfordringer. 

Ungeinddragelse om generativ AI

Dataetisk Råd og Democracy X har i samarbejde med Trygfonden udarbejdet en rapport om unge og generativ AI. 

Rapporten har til formål at give indsigt i unges refleksioner og behov og i sidste ende være med til at påvirke udviklingen af Generativ AI i Danmark. 

Læs rapporten her