Franziska Mauritz - Rechtliche Leitplanken für den KI-Einsatz in der Schule

Zusammenfassung

Franziska Mauritz erläutert die rechtlichen Rahmenbedingungen für KI an Schulen entlang von EU AI Act, Datenschutz und Urheberrecht. Der EU AI Act folgt einem risikobasierten Ansatz: Besonders sensibel sind Systeme, die etwa über Bildungszugänge entscheiden, Lernergebnisse bewerten, Lernende einstufen oder Prüfungen überwachen. Unterstützt eine KI dagegen nur eine vorbereitende Aufgabe und bleibt die abschließende Entscheidung beim Menschen, kann dies die Einordnung verändern. Als Betreiberin trägt grundsätzlich die Schule Verantwortung; Lehrkräfte sollen freigegebene Systeme im vorgesehenen Zweck nutzen. Unabhängig von einer Hochrisiko-Einstufung sind KI-Kompetenz und Transparenz zentrale Pflichten.

Für einen datenschutzkonformen Einsatz empfiehlt Mauritz, Datenarten und Rechtsgrundlage zu prüfen, bei Bedarf einen Auftragsverarbeitungsvertrag abzuschließen, Daten zu minimieren und Drittlandtransfers zu klären. Pseudonyme, zwischengeschaltete Server und der Ausschluss einer Nutzung von Eingaben zum Modelltraining können Risiken reduzieren. Beim Urheberrecht bleibt die Lage zum Hochladen geschützter Schulbuchtexte nach ihrer Darstellung zum Zeitpunkt des Vortrags ungeklärt; deshalb rät sie davon ab. Auch Schülertexte können geschützt und personenbezogen sein. KI-Ausgaben sollten zudem vor einer weiteren Nutzung auf mögliche Rechte Dritter geprüft werden.

Takeaways

• Nicht jede schulische KI ist ein Hochrisikosystem; entscheidend sind Einsatzzweck und Einfluss auf Entscheidungen.

• Schulen müssen Zuständigkeiten, zulässige Zwecke, menschliche Aufsicht und KI-Kompetenz organisatorisch absichern.

• Datenschutz beginnt mit Rechtsgrundlage, Datenminimierung, Transparenz und vertraglicher Kontrolle der Anbieter.

• Personenbezogene Daten sollten nicht unbedacht in KI-Systeme eingegeben oder zum Training freigegeben werden.

• Geschützte Schulbuchtexte sollten angesichts der ungeklärten Rechtslage nicht in KI-Tools hochgeladen werden.