Wie SchoolUP arbeitet

1. Ablauf einer Frage

1. Anmeldung mit dem Moodle-Zugang; SchoolUP prüft im Moodle der Schule, ob die Person im Kurs eingeschrieben ist (das Ergebnis gilt höchstens 5 Minuten).
2. Die Frage wird auf dem eigenen Server in einen Vektor umgewandelt und mit dem Suchverzeichnis des Kurses verglichen, das im Moodle der Schule liegt. Zusätzlich zählen gemeinsame Fachbegriffe.
3. Ist nichts Passendes dabei, sagt der Tutor das. Sonst gehen höchstens 5 Abschnitte, die Frage und bis zu 8 vorherige Nachrichten an das Sprachmodell.
4. Das Sprachmodell formuliert die Antwort und markiert für jede Aussage den belegenden Satz. Die App zeigt diesen Satz und springt auf Wunsch an die Stelle im Originaldokument.
5. Sieht die Frage nach einer Aufgabe aus, erkennt das Programm (nicht das Modell) den Aufgabenmodus: Der Tutor führt Schritt für Schritt, statt zu lösen, und zeigt keine Musterlösungen aus dem Material.

2. Modelle

3. Grenzen und Schutzregeln

• Antworten nur aus dem Kursmaterial; findet sich nichts, sagt der Tutor das.
• Jede inhaltliche Aussage trägt einen Beleg auf den genauen Satz im Material.
• Aufgaben werden geführt, nicht gelöst (im Code erkannt, nicht vom Modell); Musterlösungen aus dem Material werden nie gezeigt, auch nicht bei Wissensfragen; nennt jemand ein Ergebnis zu einer Gleichung, rechnet es der Code nach.
• Lernmodus: Ob eine Antwort stimmt, entscheidet die App anhand des Lösungsschlüssels, den jede Aufgabe mitbringt; Punkte und Stand je Thema sind feste Rechenregeln auf dem Gerät. Die KI schreibt nur die Aufgaben und bewertet keine Lernergebnisse; ihre Rückmeldung auf freie Erklärungen zählt nicht in Punkte oder Stand. Niemand außer der Person sieht den Stand.
• Übungen und Darstellungen im Chat (Quiz, Karteikarten, Lückentext, Diagramme, Graphen u. a.) entstehen nur aus dem Kursmaterial, tragen Belege und gibt es im Aufgabenmodus nicht; Ergebnisse werden bei SchoolUP nirgends gespeichert oder ausgewertet. Übernommene Karteikarten und ihr Wiederholungsplan liegen nur auf dem Gerät.
• Keine Noten, keine Bewertung mit Folgen, kein Lernprofil, keine Auswertung für Lehrkräfte oder Schulleitung.
• Probeklausuren sind Übungsbögen aus dem Kursmaterial, keine Leistungserhebung; die App sagt das auf dem Bogen, vor der Abgabe und im Ausdruck. Der Erwartungshorizont entsteht mit den Aufgaben und wird versiegelt; korrigiert wird gegen ihn. Bewertungseinheiten vergibt der Server, und nur für Stellen, die er wörtlich (oder zu mindestens 80 % ihrer Wörter) in der Antwort auf dieselbe Teilaufgabe wiederfindet. Noten, Notenpunkte und Prozentangaben zur Leistung werden aus jeder Rückmeldung entfernt; eine Gesamtpunktzahl zeigt die App nicht groß an, fehlende Schritte des Lösungswegs erst auf Wunsch. Ergebnis und Abgabe liegen nur auf dem Gerät der Person.
• Abbildungen werden maschinell beschrieben und sind im Text als „automatisch beschrieben" gekennzeichnet.
• Übersetzungen in die eigene Sprache gibt es nur auf Wunsch der Person. Sie stehen unter der deutschen Antwort, die bestehen bleibt, sind als „von einer KI übersetzt“ gekennzeichnet und übertragen nur, was die Antwort sagt: nichts dazu, keine Lösung.
• Gesprochene Fragen schreibt eine KI ab; den Text sieht und prüft die Person im Eingabefeld, bevor sie ihn selbst abschickt. Vorgelesen wird mit einer fertigen, künstlichen Stimme (keine nachgeahmte Stimme eines Menschen), nur auf Knopfdruck.
• In der App steht sichtbar, dass ein KI-Tutor antwortet und sich irren kann.

4. Einordnung nach der KI-Verordnung

SchoolUP ist Anbieter eines KI-Systems (Art. 3 Nr. 3 KI-VO), das auf einem KI-Modell mit allgemeinem Verwendungszweck von Mistral AI SAS aufbaut. Die Schule ist Betreiberin (Art. 3 Nr. 4 KI-VO).

• Transparenz: Die App weist bei jedem Gespräch sichtbar darauf hin, dass ein KI-Tutor antwortet (Art. 50 Abs. 1 KI-VO). Jeder Probeklausurbogen trägt den Vermerk, dass er von einer KI erzeugt ist. Automatisch beschriebene Abbildungen sind im Material als solche gekennzeichnet.
• Maschinenlesbare Kennzeichnung: Alle Ausgaben des Sprachmodells sind maschinenlesbar als KI-erzeugt gekennzeichnet (Art. 50 Abs. 2 KI-VO): jede Antwort des Servers mit der Kopfzeile KI-Erzeugt: mistral-ai, jede Antwort, jeder Klausurbogen und jede Rückmeldung in der App und im Hilfe-Chat mit dem Attribut data-ki-erzeugt.
• Kein Hochrisiko-KI-System (Art. 6 Abs. 2 KI-VO i. V. m. Anhang III Nr. 3). SchoolUP bestimmt nicht über Zugang oder Zulassung (lit. a), ordnet niemandem ein Bildungsniveau zu (lit. c) und überwacht keine Prüfungen (lit. d).
• Keine Bewertung von Lernergebnissen (lit. b). Maßgeblich ist die Zweckbestimmung, die der Anbieter festlegt (Art. 3 Nr. 12 KI-VO). Die Zweckbestimmung von SchoolUP ist Lernunterstützung: das Kursmaterial erklären und Üben ermöglichen. Aufgabenmodus und Probeklausur geben der lernenden Person eine Rückmeldung zu ihrer eigenen Übung. Lit. b erfasst dagegen Systeme, deren Bewertung in das Bildungsverhältnis eingeht: Sie werden als hochriskant eingestuft, weil sie über den Bildungs- und Berufsweg einer Person bestimmen und damit ihre Fähigkeit beeinträchtigen können, ihren Lebensunterhalt zu sichern (Erwägungsgrund 56 KI-VO). Eine Rückmeldung von SchoolUP kann das nicht: Sie erreicht die Schule nie. Es gibt keine Note, keine Speicherung bei SchoolUP, keine Ansicht und keine Schnittstelle für Lehrkräfte oder Schulleitung; das Ergebnis liegt allein auf dem Gerät der lernenden Person und wird beim Abmelden gelöscht. Die Nutzung ist freiwillig. Diese Grenzen sind technisch umgesetzt und werden bei jeder Änderung des Programms automatisch geprüft.
• Ausnahme nach Art. 6 Abs. 3 KI-VO. Selbst wenn man die Rückmeldung als Bewertung im Sinne von lit. b ansähe, wäre SchoolUP kein Hochrisiko-System: Es birgt kein erhebliches Risiko für Gesundheit, Sicherheit oder Grundrechte und beeinflusst das Ergebnis keiner Entscheidung (Art. 6 Abs. 3 UAbs. 1 KI-VO). Die Probeklausur ist eine vorbereitende Aufgabe im Hinblick auf die Leistungsbewertung, die allein die Lehrkraft ohne SchoolUP vornimmt (Art. 6 Abs. 3 UAbs. 2 lit. d KI-VO). SchoolUP erstellt keine Profile natürlicher Personen (Art. 6 Abs. 3 UAbs. 3 KI-VO, Art. 4 Nr. 4 DSGVO): Es speichert weder Fragen noch Ergebnisse; einen Lernstand gibt es nur auf dem Gerät der Person, SchoolUP kennt ihn nicht. Die Schulverträge untersagen, Probeklausuren zur Leistungsbewertung zu nutzen.
• Dokumentation. Diese Einordnung ist die Dokumentation nach Art. 6 Abs. 4 KI-VO; sie trägt Version und Datum dieser Seite und wird mit jeder Änderung des Dienstes fortgeschrieben.
• KI-Kompetenz: Diese Seite und die Hinweise in der App unterstützen Schulen bei ihrer Pflicht aus Art. 4 KI-VO.

5. Daten und Training

SchoolUP trainiert keine Modelle mit Fragen, Antworten oder Kursmaterial. Das Suchmodell läuft unverändert auf dem eigenen Server. Mistral AI verarbeitet die Daten als Auftragsverarbeiter nach seinem Data Processing Addendum (Art. 28 DSGVO) über den EU-Endpunkt; die Nutzung zum Training ist für SchoolUP abgeschaltet (Ziff. 2.3 DPA).