Die Kinderbeauftragte für England, Dame Rachel de Souza, schlägt Alarm. Angesichts der Zunahme neuer Anwendungen, die künstliche Intelligenz (KI) nutzen, um sexuelle Bilder von Kindern zu erzeugen, fordert sie die britische Regierung auf, entschlossen zu handeln. Das Ziel: vollständig verbieten nudifizierende" Anwendungen, bevor sie noch schlimmere Folgen für junge Menschen haben.
Inhaltsverzeichnis
Das Aufkommen der Bedrohung durch "nudification apps" (Nudging-Apps)
Diese Anwendungen ermöglichen es, aus einem einfachen Foto einer bekleideten Person ein falsches Bild zu erzeugen, auf dem die Person nackt zu sehen ist. Eine erschreckende technische Entwicklung, die laut Dame Rachel Folgendes bezweckt in unverhältnismäßiger Weise junge Mädchen.
Laut ihrem am Montag veröffentlichten Bericht viele weibliche Teenager entscheiden sich heute dafür, das Einstellen von Fotos oder die Teilnahme an Online-Aktivitäten zu vermeiden, weil sie Angst haben, ins Visier genommen zu werden.
"Die Kinder befürchten, dass ein Fremder, ein Mitschüler oder sogar ein Freund diese Technologien nutzen könnte, um sie auszubeuten."
Unzureichende aktuelle Regulierung
Zwar verbietet das Online-Sicherheitsgesetz (Online Safety Act) das Teilen oder die Drohung mit dem Teilen von expliziten, von KI erstellten Bildern, doch Dame Rachel ist der Ansicht, dass dies nicht ausreicht.
Die Regierung kündigte im Februar 2025 neue Straftaten gegen den Besitz, die Erstellung und die Verbreitung von IA-Werkzeugen die darauf ausgelegt sind, solche Inhalte zu produzieren. Doch die Kommissarin betont:
“Es darf schlichtweg keine Nudging-Anwendungen geben.“
Sie fordert ein Verbot gesamt dieser Technologien, und nicht einfach nur Werkzeuge, die als Schaffung von sexuellem Missbrauch von Kindern gekennzeichnet sind.
Das Ausmaß des Problems
Das Phänomen ist explosionsartig angestiegen:
- 245 Fälle bestätigte Bilder von durch KI missbrauchten Kindern im Jahr 2024 gegenüber 51 im Jahr 2023.
- +380% Anstieg in nur einem Jahr (Quelle: Internet Watch Foundation).
Derek Ray-Hill, amtierender CEO der IWF, behauptet:
"Diese Anwendungen werden bereits in Schulen missbraucht, und die Bilder geraten schnell außer Kontrolle."
Was fordert Dame Rachel de Souza?
Zum Schutz der Kinder formuliert sie mehrere Schlüsselempfehlungen:
- Rechtliche Verpflichtungen auferlegen an Entwickler von KI-Tools zur Bewertung und Abschwächung von Risiken für Kinder.
- Einen systematischen Mechanismus einführen für sexuelle Deepfakes unterdrücken von Kindern aus dem Internet.
- Erkennen von sexuellen Deepfakes als eine Form von Gewalt gegen Frauen und Mädchen.
Paul Whiteman, Generalsekretär der Gewerkschaft NAHT, unterstützt diesen Aufruf und kritisiert, dass die Legislative hinter der Technologie zurückbleibt.
Reaktion der Regierung und von Ofcom
Die Abteilung für wissenschaftliche und technologische Innovation erinnert :
"Die Erstellung, der Besitz und die Verbreitung von Material zum sexuellen Missbrauch von Kindern, auch durch AI, ist illegal."
Darüber hinaus veröffentlichte Ofcom seinen Children's CodeDie Richtlinie verlangt, dass Plattformen, die sensible Inhalte zur Verfügung stellen, diese verstärkt anzeigen die Altersüberprüfung unter Androhung hoher Geldstrafen.
Doch Dame Rachel kritisiert diesen Kodex und wirft Ofcom vor kommerzielle Interessen bevorzugen auf Kosten der Sicherheit der Kinder.
Schlussfolgerung
LAnwendungen der Numerierung durch KI eine unmittelbare Bedrohung darstellen. Auch wenn sich die Technologie rasend schnell weiterentwickelt, muss der Schutz von Kindern weiterhin oberste Priorität haben.
Die Forderung von Dame Rachel nach einem Totalverbot unterstreicht eine offensichtliche Tatsache: im Wettlauf mit der Innovation dürfen wir nicht die Unschuld der Jüngsten opfern.
Die Gesetzgeber müssen mit derselben Geschwindigkeit reagieren wie die Technologieentwickler.
FAQ - Aufruf zum Verbot von KI-Apps, die nackte Bilder von Kindern erstellen
Warum fordert Dame Rachel de Souza ein Verbot von Nudging-Apps?
Weil sie es ermöglichen, sexuelle Bilder von Kindern zu erstellen, wodurch Minderjährige ernsthaften psychischen und physischen Gefahren ausgesetzt werden.
Die deepfakes explizit sind bereits illegal?
Ja, das Teilen oder die Androhung des Teilens solcher Bilder ist nach dem Online Safety Act verboten, aber Dame Rachel ist der Ansicht, dass dies nicht ausreicht.
Welche zusätzlichen Empfehlungen wurden ausgesprochen?
Verpflichtungen für Entwickler vonKISie müssen die Deepfakes abschaffen und diese Taten als Gewalt gegen Frauen und Mädchen betrachten.
Besteht die Gefahr, dass die Technologie die Gesetze überholt?
Ja. Viele Experten, darunter Paul Whiteman, gehen davon aus, dass die Geschwindigkeit der KI überholt feige die legislative Entwicklung.
