Aktuell explodieren die Timelines mit der Berichterstattung zum Fall Collien Fernandes, die Opfer digitaler sexueller Gewalt geworden ist. Der Fall macht öffentlich, dass die derzeitigen Gesetze nicht ausreichen, um diesem Problem zu begegnen.

Die Schauspielerin und Moderatorin ist Betroffene von bildbasierter sexualisierter Gewalt. Aus ihren öffentlichen Bildern wurde mit Künstlicher Intelligenz (KI) sexualisiertes Bildmaterial erstellt – ohne ihre Zustimmung und ohne ihr Wissen. Dies verletzt das Recht auf sexuelle Selbstbestimmung ebenso wie das Recht am eigenen Bild.

Dieses Phänomen betrifft vor allem Frauen, aber nicht nur solche, die in der Öffentlichkeit stehen. Auch minderjährige Mädchen sind bereits Opfer von KI-generierten Nacktbildern geworden.

Da die Bilder und/oder Videos Menschen in intimen Situationen zeigen, die es in Wirklichkeit nie gegeben hat, ist die Gesetzeslage nicht eineindeutig. Bisher gibt es keinen eigenen Straftatbestand. Infrage kommen beispielsweise Beleidigung (§185 StGB), Verletzung des höchstpersönlichen Lebensbereichs (§201a StGB) oder die Verletzung des Urheberrechtsgesetzes (§ 22 KunstUrhG). Zukünftig sollen sexualisierte Deepfakes und auch KI-Programme stärker gesetzlich reguliert werden.

Diese sogenannten Deepnudes (engl. für maschinelles Lernen und Nacktbild) werden mit Hilfe von Deepnude-Generatoren aus normalen, nicht sexualisierten Fotos gemacht, indem die abgebildete Person virtuell entkleidet wird. Solche Dienste nennt man auch Nudifier.
Bei den Deepfakes (engl. für maschinelles Lernen und Fälschung) wird das Gesicht einer Person ausgetauscht (Face Swapping) und so beispielsweise auf eine Pornodarstellerin montiert.

Sie haben eines gemeinsam: es handelt sich um sexuelle Gewalt und kann für die Betroffenen äußerst belastend sein. Heranwachsende in unseren Bildungsveranstaltungen berichten, dass es für sie keinen Unterschied macht, ob ein von ihnen verbreitetes Bild echt ist oder nicht – sie empfinden trotzdem Scham, fühlen sich bloßgestellt, erniedrigt und sozial ausgegrenzt.

Schützen Sie sich und Heranwachsende vor dem Missbrauch selbsterstellten Bildmaterials!

Dafür helfen Ihnen folgende Tipps:

Stellen Sie Ihr Profil auf privat! Begleiten Sie auch Minderjährige bei der Erstellung eines Social-Media-Profils. Eine korrekte Altersangabe ist unbedingt notwendig, damit das Profil des Heranwachsenden automatisch auf privat gestellt wird.
Minderjährige sollten keine Personen annehmen, die sie nicht persönlich kennen. Ihr Profilname sollte keinen Rückschluss auf das Alter oder den Wohnort enthalten. Sie können auch einstellen, dass Fremde ihnen keine Nachrichten schreiben oder Ihre Beiträge kommentieren können.

Schicken Sie bestenfalls keine intimen Aufnahmen und sensibilisieren Sie auch Minderjährige, sehr vorsichtig mit entsprechenden Inhalten umzugehen!
Heranwachsende sollten sich zu nichts drängen lassen. Entscheiden sie sich trotzdem ein Nude zu verschicken, können sie mit Take It Down vorsorglich das Risiko verringern, dass ihre Nacktbilder auf Instagram, TikTok oder Snapchat hochgeladen werden. Erwachsene können dies mit StopNCII ebenso tun.

Melden Sie Belästigung und sexuelle Übergriffe und geben Sie Heranwachsenden bei Bedarf Hilfestellung bei einer Meldung!
Wenn jemand unaufgefordert ein Dickpic bekommt, kann man dies bei Dickstinction anzeigen.
Wenn jemand ein Kind dazu bringen möchte, intime Aufnahmen zu schicken oder sexuelle Handlungen vor der Kamera vorzunehmen, kann man dies bei ZEBRA melden.

Auch andere junge Menschen machen ähnliche Erfahrungen. Kostenlose Beratung für junge Menschen von jungen Menschen gibt es bei Juuuport.
Natürlich helfen auch professionelle Beratungsstellen wie die Online-Beratung Sexueller Missbrauch.

Dieser Beitrag wird finanziert durch das Ministerium für Arbeit, Soziales, Gesundheit und Gleichstellung Sachsen-Anhalt im Rahmen des Dienstleistungsvertrages zum erzieherischen Kinder- und Jugendschutz.