In dem Artikel „The AI-Generated Child Abuse Nightmare Is Here“ von WIRED wird über einen beunruhigenden Trend berichtet: Die Erzeugung ultrarealistischer, künstlich generierter Bilder von Kindesmissbrauch durch KI. Experten warnen, dass Straftäter öffentlich zugängliche, generative KI-Modelle verwenden, um neue Bilder von bereits missbrauchten Kindern zu erstellen. Diese Täter tauschen Datensätze von Missbrauchsbildern aus, um KI-Modelle anzupassen, und bieten sogar monatliche Abonnements für künstlich generierte Missbrauchsmaterialien an.

Die Internet Watch Foundation (IWF), eine gemeinnützige Organisation aus dem Vereinigten Königreich, die Missbrauchsinhalte im Web identifiziert und entfernt, hat in einem Bericht detailliert beschrieben, wie diese Technologie missbraucht wird. Ihre Untersuchung eines Dark-Web-Forums für Missbrauchsmaterial ergab fast 3.000 illegal generierte KI-Bilder.