Risiko KI? Müssen wir Jugendliche schützen?

Zusammenfassung

Silke Müller und Hendrik Haverkamp diskutieren, wie Schutz und kompetente Nutzung digitaler Medien zusammengehören. Ausgehend von Müllers Erfahrungen mit einer Social-Media-Sprechstunde wird deutlich, wie wichtig niedrigschwellige Anlaufstellen und verlässliche Beziehungen sind: Kinder und Jugendliche bringen dort nicht nur eigene Probleme, sondern oft auch Sorgen um Freundinnen und Freunde ein. Generative KI verschärft bekannte Risiken, etwa durch Deepfakes, sexualisierte Bildmanipulationen, gefälschte Nachrichten oder scheinbar einfühlsame Chatbots. Gleichzeitig kann sie als Lernassistenz, für Feedback und individualisierte Unterstützung nützlich sein.

Beide wenden sich deshalb gegen eine pauschale Entweder-oder-Debatte zwischen Verboten und Medienkompetenz. Gefordert sind nachvollziehbare Regeln, altersgerechte Aufklärung, differenzierte Entscheidungen nach Werkzeug und Einsatzbereich sowie kontinuierliche Fortbildung für Lehrkräfte und Schulleitungen. Verantwortung darf nicht allein Kindern, Eltern oder Schulen zugeschoben werden; auch Plattformanbieter, Gesetzgeber und europäische Politik müssen handeln. Kinder und Jugendliche sollen dabei nicht nur angehört, sondern tatsächlich an Entscheidungen beteiligt werden. Für Schulen bedeutet das, technologische Entwicklungen aktiv aufzugreifen, Risiken offen anzusprechen und zugleich pädagogisch sinnvolle Nutzung zu ermöglichen.

Takeaways

• Vertrauensvolle Anlaufstellen helfen, digitale Konflikte früh sichtbar zu machen und gemeinsam zu bearbeiten.

• KI kann bestehende Gefahren skalieren; besonders Deepfakes und sexualisierte Manipulationen verlangen Aufklärung und Schutz.

• Pauschale KI-Verbote greifen zu kurz, weil die Technologie in viele alltägliche Anwendungen eingebettet ist.

• KI-Kompetenz und klare Regulierung sind keine Gegensätze, sondern müssen zusammenwirken.

• Einmalige Fortbildungen reichen bei der hohen Entwicklungsgeschwindigkeit nicht aus.

• Echte Beteiligung von Kindern und Jugendlichen ist für tragfähige Regeln unverzichtbar.