KI-Deepfakes und digitale Gewalt in der Schule

Zusammenfassung

Ausgangspunkt des Gesprächs ist Sophia Stolpes Erfahrung mit manipulierten Nacktbildern, die während ihrer Schulzeit über WhatsApp verbreitet wurden. Obwohl sie den Urheber benennen und Belege vorlegen konnte, fühlte sie sich von Mitschüler:innen, Schulleitung und Polizei allein gelassen; statt Schutz und Konsequenzen erlebte sie Relativierung und Schuldumkehr. An ihrem Fall wird deutlich, dass sexualisierte digitale Gewalt nicht erst mit generativer KI begonnen hat, durch immer leichter erzeugbare Deepfakes aber eine neue Dimension gewinnt.

Chan-jo Jun ordnet ein, welche strafrechtlichen Fragen bei Herstellung, Besitz und Weitergabe solcher Bilder entstehen können und warum das Sichern und Weiterleiten potenziell kinder- oder jugendpornografischen Materials besonders umsichtig erfolgen muss. Die Runde diskutiert zugleich die pädagogische Verantwortung von Schulen: Lehrkräfte und Schulleitungen brauchen verlässliche Abläufe, kompetente Beratung und eine Sprache für digitale sexualisierte Gewalt. Entscheidend ist, Betroffene ernst zu nehmen, solidarisch zu handeln und Vorfälle weder aus falsch verstandener Konfliktvermeidung intern versanden zu lassen noch vorschnell ohne fachliche Prüfung zu behandeln.

Takeaways

• Manipulierte intime Bilder können reale Gewalt und langfristige Belastungen verursachen – unabhängig davon, ob Photoshop oder KI eingesetzt wurde.

• Betroffene brauchen klare Ansprechpersonen, Solidarität und Schutz vor Schuldumkehr.

• Bei möglichem strafbarem Material ist der Umgang mit Beweisen heikel; fachlicher Rat und eine schnelle Übergabe an zuständige Stellen sind wichtiger als unkontrolliertes Weiterleiten.

• Schulen benötigen verbindliche Handlungswege, Fortbildung und Unterstützung durch Schulaufsicht beziehungsweise Ministerien.

• Prävention beginnt damit, digitale Grenzverletzungen offen zu thematisieren und ihre Schwere nicht zu relativieren.