KI kann Lehrkräfte auf vielfältige Weise unterstützen – etwa beim Verfassen von Elternbriefen, der Erstellung von Aufgaben oder als Lernhilfe für Schüler:innen. Doch gerade im schulischen Kontext gilt: Nicht alles, was technisch möglich ist, ist auch pädagogisch sinnvoll oder rechtlich okay .
Denn KI-Modelle können auch Fehler machen. Sie „halluzinieren“ manchmal – das heißt, sie erfinden scheinbar plausible, aber inhaltlich falsche Informationen. Außerdem kann es zu Bias kommen: also zu Verzerrungen oder Einseitigkeiten in den Ergebnissen – zum Beispiel durch stereotype Darstellungen aufgrund von unausgewogene Trainingsdaten.
Um telli datenschutzkonform betreiben zu können, wurden die trainierten Sprachmodelle kopiert und auf eigene Server in der EU transferiert. Dadurch haben sie keine automatische Verbindung mehr zu Aktualisierungen. Akutelle KI-Werzeuge nutzen bei der Erstellung von Antworten auch aktuelle Informationen aus dem Internet. Dieses passiert bei telli nicht.
Fragt man telli nach der Ampelregierung in Deutschland, kann es keine aktuellen Daten liefern und weiß im Juni 2025 noch nicht, dass diese Koalition nicht mehr im Amt ist. Bei verschiedenen Versuchen konnte telli selbst darauf hinweisen, dass die Trainingsdaten nicht aktuell sind. Das ist aber auch nicht bei allen Fragestellungen so passiert.
Wichtig ist auch: Viele KI-Systeme sind eine sogenannte Black Box. Das bedeutet, dass ihre Funktionsweise nicht vollständig nachvollziehbar ist – auch nicht für Expert:innen. Deshalb ist dieser Schritt im Selbstlernpfad besonders wichtig für einen sicheren und reflektierten Umgang mit KI in der Schule.