Må politiet bekæmpe børnemisbrug ved selv at skabe det? Det lyder paradoksalt, men netop dette dilemma står vi over for, når kunstig intelligens bringes i spil i kampen mod børnemisbrugsmateriale.

Fremstilling og deling af sådant materiale på nettet er et voksende globalt problem, og politiet ser nu en mulighed i at anvende AI til at generere falsk børnemisbrugsmateriale som led i deres efterforskning. Men hvordan balancerer vi behovet for effektiv kriminalitetsbekæmpelse med grundlæggende dataetiske principper om gennemsigtighed og ansvarlighed?

Det korte svar er, at vi i Dataetisk Råd ser positivt på anmodningen og anbefaler, at politiet får de ønskede beføjelser under forudsætning af, at AI-værktøjerne ikke er trænet på ægte materiale.

Behov for materiale at bytte med

Rigspolitiets ønske er beskrevet i et udkast til et lovforslag, en ændring i straffelovens §754, der skal styrke indsatsen mod seksuelt krænkende materiale og som skal behandles i Folketinget. Årsagen er, at det ofte kræver, at man som udefrakommende selv er i besiddelse af børnemisbrugsmateriale, hvis man vil have adgang til de netværk, hvor den slags materiale deles.