Må politiet bekæmpe børnemisbrug ved selv at skabe det? Det lyder paradoksalt, men netop dette dilemma står vi over for, når kunstig intelligens bringes i spil i kampen mod børnemisbrugsmateriale.
Fremstilling og deling af sådant materiale på nettet er et voksende globalt problem, og politiet ser nu en mulighed i at anvende AI til at generere falsk børnemisbrugsmateriale som led i deres efterforskning. Men hvordan balancerer vi behovet for effektiv kriminalitetsbekæmpelse med grundlæggende dataetiske principper om gennemsigtighed og ansvarlighed?
Det korte svar er, at vi i Dataetisk Råd ser positivt på anmodningen og anbefaler, at politiet får de ønskede beføjelser, under forudsætning af, at AI-værktøjerne ikke er trænet på ægte materiale. Det kan virke kontroversielt, men lad os se på de dataetiske overvejelser bag vores vurdering.
Rigspolitiets ønske er beskrevet i et udkast til et lovforslag, en ændring i Straffelovens §754, der skal styrke indsatsen mod seksuelt krænkende materiale og som skal behandles i Folketinget. Årsagen er, at det ofte kræver, at man som udefrakommende selv er i besiddelse af børnemisbrugsmateriale, hvis man vil have adgang til de netværk, hvor den slags materiale deles. Politiet har med andre ord behov for at have noget at bytte med og ser derfor muligheder i at lade kunstig intelligens generere uægte børnemisbrugsmateriale.
Læs hele høringsvaret her