Im Rahmen von „KI-Humanitas: Enabling AI-Skills“ sprachen Dr. Wolfgang König und The Decoder mit Diana Knodel, Geschäftsführerin von Fobizz. Die Plattform bietet digitale Werkzeuge und Fortbildungen rund um Künstliche Intelligenz an, unter anderem für den schulischen Einsatz. In mehreren Bundesländern erhalten Lehrkräfte über Landeslizenzen kostenlosen Zugang zu den Angeboten. Knodel erklärt, warum ChatGPT im Unterricht problematisch ist, was der EU AI Act für Schulen bedeutet – und warum ihre eigene Korrektur-KI als Experiment gilt.
König: Frau Knodel. Was sind die drei wichtigsten Key-Learnings aus Ihrer Sicht beim Thema Arbeiten und Lernen mit KI?
Diana Knodel: Wir arbeiten an vielen Stellen direkt mit Lehrkräften aller Schulformen und Fachrichtungen zusammen: im Rahmen von Workshops oder Webinaren, bei unserer mehrwöchigen Zusatzqualifikation zum Thema Künstliche Intelligenz oder auch über das Feedback, das wir von Lehrkräften erhalten, die unsere Tools nutzen. Da kristallisieren sich drei wichtige Learnings heraus:
- KI soll als Entlastung und Unterstützung dienen, nicht als Ersatz. Lehrkräfte (und Schülerinnen und Schüler) sollten verstehen, dass KI-Tools dazu dienen, sie in ihren Aufgaben zu unterstützen und nicht, sie zu ersetzen. Durch die Automatisierung bestimmter Aufgaben kann KI wertvolle Zeit sparen, sodass Lehrkräfte sich auf kreative und pädagogische Tätigkeiten konzentrieren können.
- Alle benötigen ein Grundverständnis der Funktionsweise von generativer KI. Dieses Wissen hilft Lehrkräften zu erkennen, wann der Einsatz von KI sinnvoll ist und fördert ein kritisches Bewusstsein für die Grenzen der Technologie.
- KI muss in den Bildungsprozess integriert werden und digitale Kompetenz muss gefördert werden, denn die Schulung von Lehrkräften in der Nutzung von KI ist wichtig, um diese verantwortungsvoll im Unterricht einzusetzen. Dafür müssen Fortbildungen zur Förderung digitaler Kompetenzen angeboten werden.
König: Alle reden aktuell über den EU AI ACT und die KI-Kompetenz-Pflicht, die seit Februar 2025 gilt. Was ist aus Ihrer Sicht für Schulen hier das Wichtigste?
Knodel: Der EU AI ACT und die damit verbundene KI-Kompetenz-Anforderung erfordern von Schulen, dass sie ein grundlegendes Verständnis von KI und deren Anwendung vermitteln. Das kann gelingen, wenn die Integration von KI als Teil des Bildungsauftrags betrachtet wird. Schulen sollten ein Grundverständnis von KI vermitteln, inklusive ethischer und technischer Aspekte. Dies fördert die Fähigkeit, selbstständig und kritisch mit KI-Technologien umzugehen und bereitet Schülerinnen und Schüler auf die Anforderungen der digitalen Zukunft vor.
Um KI in den Bildungsauftrag zu integrieren, müssen Lehrerinnen und Lehrer über das notwendige Wissen und die praktischen Kompetenzen im Umgang mit KI-Tools verfügen. Regelmäßige Fortbildungsmaßnahmen und Zeit für Fortbildungen sind daher dringend nötig.
Wichtig ist aber vor allem, dass Schulen sich mit Künstlicher Intelligenz auseinandersetzen und verstehen, dass KI kein rein technisches Thema ist, sondern auch pädagogische Chancen bietet. Durch die Nutzung von KI-Tools können Lehrkräfte sich bei vielen ihrer Aufgaben unterstützen lassen und dadurch mehr Zeit für die Arbeit mit den Schülerinnen und Schülern gewinnen. Eine weitere pädagogische Chance bietet sich durch die Differenzierung von Unterrichtsmaterialien mithilfe von KI-Tools: Von einer Anpassung in einfache Sprache über Zusammenfassungen bis hin zur Anpassung von Texten an das Leseniveau der Schülerinnen und Schüler.
Die Auseinandersetzung mit KI ermöglicht Lehrkräften, Schülerinnen und Schüler in einem kritischen und verantwortungsbewussten Umgang mit diesen Technologien zu schulen. Fobizz bietet zu diesem Thema neben Fortbildungen auch verschiedene OER Unterrichtsmaterialien an, z.B. “KI-Kompetenz für Schüler*innen” oder auch die Materialien zum Thema “Medienkompetenz stärken: Fake News”. Diese Materialien entwickeln wir oft gemeinsam mit Partnern wie ZDF goes Schule, Spiegel ED oder Stiftungen.
Ein weiterer wichtiger Aspekt sind klare Regeln zum Umgang mit KI in der Schule. Der Einsatz von KI muss transparent erfolgen, um das Vertrauen von Lehrkräften, Lernenden und Eltern zu gewährleisten. Diese Transparenz gilt natürlich für alle Beteiligten der Schulgemeinschaft. Auch Lehrkräfte sollten ihre KI-Nutzung gegenüber Schülern transparent kommunizieren.
König: Als KI-Anbieter müssen auch Sie mit ihrer Lösung der fobizz KI-Tools verschiedene Kriterien nach EU AI ACT erfüllen. Was sind diese und welche sind grundsätzlich für Unternehmen relevant, wenn diese KI-Chatbots für ihre Mitarbeitenden einsetzen wollen.
Knodel: Als KI-Anbieter müssen wir, wie alle Anbieter in diesem Bereich, verschiedene Kriterien des EU AI Acts erfüllen, insbesondere wenn es um den Einsatz von KI-Chatbots für unsere eigenen Mitarbeitenden oder auch für Lehrkräfte geht.
Zunächst ist die Risikokategorisierung wichtig. Die KI-Systeme werden in verschiedene Risikokategorien eingeteilt, von einem minimalen bis zu unannehmbaren Risiko. Unternehmen müssen sicherstellen, dass ihre KI-Tools in die richtige Risikokategorie eingeordnet werden. Hierzu haben wir im Februar 2025 bereits von einer Kanzlei eine Prüfung unserer KI-Tools durchführen lassen. Diese hilft sowohl uns, aber auch unseren Kunden, eine Klassifikation vorzunehmen.
Die Prüfung ergab, dass keines der fobizz KI-Tools als Hochrisiko-KI-System im Sinne des Artikels 6 der KI-Verordnung eingestuft wurde. Alle Tools werden als KI-Systeme mit geringem Risiko nach Artikel 50 der KI-Verordnung klassifiziert. Geprüft wurden die fobizz KI-Tools von der Rechtsanwaltskanzlei reusch law nach der KI-Verordnung, die vollständigen Ergebnisse sind im Whitepaper vom 05.03.2025 einzusehen.
Da die beiden Tools Korrekturhilfe und Feedback für Schüler*innen zu Bewertungszwecken eingesetzt werden können, haben wir mehrere Maßnahmen getroffen, um eine verantwortungsvolle Nutzung zu fördern. Die Empfehlungen dazu sind hier nachlesen: Hinweise zur Nutzung des Korrekturhilfe Tools sowie zur Nutzung des Feedback für Schüler*innen Tools. Grundsätzlich sehen wir aber - und das bestätigt auch das Deutsche Schulbarometer (Juni 2025) - dass das Interesse an einer KI für Korrekturen zwar besteht, es aber praktisch kaum genutzt wird.
The Decoder: Gerade das KI-Korrekturhilfe-Tool hatte ja durch ein Paper für Schlagzeilen gesorgt. Die Autoren haben unter anderem festgestellt, dass Bestbewertungen nur mit ChatGPT-Texten erreichbar waren und sich die Bewertungen mit jedem Durchlauf ändern können – auch nach Anpassungen ihrerseits im Prompt. Macht das das Tool nicht nutzlos oder gar gefährlich für Schüler*innen? Warum ist es weiter verfügbar?
Knodel: Die Diskussion um KI als Korrekturhilfe ist wichtig. Viele Lehrkräfte haben sich eine solche Möglichkeit gewünscht, das haben wir auch angeboten - allerdings von Anfang an mit klaren Hinweisen, dass das Tool nie allein für die Bewertung genutzt werden darf und immer nur als Unterstützung dient. Nach der Kritik an unserer KI-Korrekturhilfe haben wir das noch mal klarer deutlich gemacht und mit weiteren Warnhinweisen versehen. Wir haben auch die Punktevergabe entfernt, man bekommt nun also nur noch qualitatives Feedback, aber keinen Vorschlag für eine mögliche Note oder Punkte. Zudem ist das Tool als "Experimental" gekennzeichnet. Damit wollen wir noch klarer machen, dass es sich um ein Tool in aktiver Weiterentwicklung handelt, das bewusst pädagogisch reflektiert eingesetzt werden sollte.
Im Vergleich zu anderen Tools wird die KI-Korrekturhilfe kaum genutzt. Auch die pauschale Annahme, dass Lehrkräfte solche Tools unreflektiert oder missbräuchlich einsetzen, können wir aus der Praxis nicht bestätigen. Im Gegenteil: Unsere Erfahrungen zeigen, dass Lehrkräfte sehr verantwortungsvoll mit KI umgehen, insbesondere wenn sie über die nötige Orientierung und Fortbildung verfügen.
König: Es gibt sehr viele KI-Chatbot-Anbieter. Viele Unternehmen nutzen bereits den Copilot oder ChatGPT. Warum würde es aus Ihrer Sicht Sinn machen, fobizz einzusetzen, schließlich ist ChatGPT oder auch der Copilot teilweise kostenlos verfügbar.
Knodel: Es gibt mehrere Gründe, warum es aus unserer Sicht sinnvoll ist, fobizz einzusetzen, insbesondere in einem schulischen Kontext: Unser Angebot bei fobizz ist speziell auf die Bedürfnisse von Schulen und Lehrkräfte zugeschnitten, was uns von allgemeinen KI-Chatbot-Lösungen unterscheidet. Bei uns finden Lehrkräfte, die sich ganz neu mit KI beschäftigen im fobizz Promptlabor vorbereitete Prompts für schulische Anwendungsfälle. Sie können ein Thema wählen und müssen dann nur wenige Angaben machen. Im Hintergrund wird ein Prompt generiert. Das ist ein einfacher Einstieg, bei dem man nicht selbst prompten muss. Für die Profis haben wir unsere KI-Assistenten: Lehrkräfte können eigene KI-Chatbots, wie die GPTs bei OpenAI, erstellen, inklusive Systemprompt und Hintergrundwissen. All das kann mit dem Kollegium, Schülern oder anderen Personen geteilt werden.
Neben den Modellen von OpenAI bieten wir eine Reihe weiterer Sprachmodelle an, u.a. auch Open Source Modelle, die in Deutschland gehostet werden. So können Lehrkräfte selbst oder mit ihren Schülerinnen und Schülern mit verschiedenen Sprachmodellen arbeiten und herausfinden, welche Modelle für welche Anwendungsfälle wie gut (oder auch nicht) funktionieren.
Ein weiterer Vorteil von fobizz liegt im Datenschutz und der Anonymität. Wir nutzen einen Proxy-Server, um personenbezogene Daten zu schützen und Anfragen anonym zu stellen, während ChatGPT potenziell Metadaten übermittelt. Zudem bieten wir Inhaltsfilter, die bei personenbezogenen Eingaben warnen, eine Funktion, die ChatGPT nicht standardmäßig bietet. Vertragliche Sicherheit ist ein weiterer Punkt: fobizz stellt durch klare Vereinbarungen mit den LLM-Anbietern sicher, dass Daten nicht zu Trainingszwecken genutzt werden. Lehrkräfte haben zudem die Kontrolle, da sie Schüler:innen-Eingaben einsehen können, was bei ChatGPT nicht möglich ist.
Unsere KI-Tools können zudem auch begleitet durch Lehrkräfte mit Schülerinnen und Schülern genutzt werden - im Rahmen unserer digitalen Klassenräume. Lehrkräfte können gezielt Tools, Materialien oder KI-Assistenten freigeben, die Schülerinnen und Schülern beim Lernen helfen, ohne dass diese einen eigenen Account benötigen.
Begleitet wird unser Angebot mit einem großen Katalog an Selbstlernkursen sowie regelmäßig stattfindenden Webinaren. Das alles ist auf die Zielgruppe der Lehrkräfte zugeschnitten.
König: Wir haben bisher noch gar nicht über das Lernen mit KI gesprochen. Welche Relevanz wird aus Ihrer Sicht das Lernen mit KI-Chatbots in der Schule haben?
Knodel: Ich bin überzeugt davon, dass KI-Chatbots eine hohe Relevanz für die Zukunft des Lernens haben. KI-Chatbots können individuell beim Lernen unterstützen und personalisiertes Lernen ermöglichen. Das fördert die Eigenständigkeit der Schülerinnen und Schüler und ihre Verantwortung für den eigenen Lernfortschritt. Durch sofortiges Feedback können Lernende ihre Fehler direkt erkennen und korrigieren. Der Einsatz von KI-Chatbots unterstützt außerdem die Entwicklung digitaler Kompetenzen, die in unserer digitalisierten Welt unerlässlich sind.
Auch für Lehrkräfte können KI-Chatbots eine wertvolle Entlastung bieten, da sie Routineaufgaben automatisieren und so mehr Zeit für die persönliche Interaktion mit den Schülerinnen und Schülern schaffen. Wichtig bei alldem ist aber das bereits erwähnte Grundverständnis von generativer Künstlicher Intelligenz. Antworten müssen kritisch hinterfragt werden und sowohl Lehrkräfte wie auch Lernende müssen wissen, dass die KI-generierten Ergebnisse fehlerhaft sein oder Vorurteile verstärken können. Eine kritische Auseinandersetzung mit KI und den Ergebnissen ist daher unbedingt nötig.
Ohne diese kritische Reflexion besteht das Risiko, dass Schülerinnen und Schüler blind auf die von KI-Chatbots gelieferten Informationen vertrauen. Das kann dazu führen, dass sie wichtige Fähigkeiten zur Problemlösung und zum kritischen Denken nicht ausreichend entwickeln.
Indem Schulen ein Bewusstsein für die Grenzen von KI schaffen und die Schülerinnen und Schüler dazu ermutigen, die von KI bereitgestellten Informationen zu hinterfragen, fördern sie, dass die Technologie als unterstützendes Werkzeug genutzt wird, das die Lernenden in ihrer Entwicklung unterstützt, anstatt sie zu ersetzen.
König: Wie muss sich aus Ihrer Sicht die Unternehmens- und Arbeitskultur verändern, wenn KI-Tools zum Arbeiten und Lernen genutzt werden. Man kann sich beispielsweise gar nicht mehr sicher sein, ob die KI eine E-Mail geschrieben hat oder ein Mensch?
Knodel: Die Einführung von KI-Tools in Unternehmen und Schulen erfordert Vertrauen, Transparenz und klare Regeln. Es muss klar kommuniziert werden, wann und wie KI-Tools eingesetzt werden. Dies ist entscheidend, um Vertrauen in die Technologie zu schaffen und Missverständnisse zu vermeiden, wie etwa, ob eine E-Mail von einem Menschen oder einer KI verfasst wurde.
Wichtig ist auch die Förderung einer offenen Fehlerkultur. Mitarbeiter:innen und Lernende sollten ermutigt werden, mit KI-Tools zu experimentieren und aus Fehlern zu lernen. Das fördert eine innovative Umgebung, in der neue Technologien als Werkzeuge zur Unterstützung und nicht als Bedrohung wahrgenommen werden.
Bei all dem ist es wichtig, die Rolle der menschlichen Interaktion hervorzuheben. Während KI-Tools viele Aufgaben automatisieren können, bleibt die zwischenmenschliche Kommunikation und das soziale Miteinander von unschätzbarem Wert. Lehrkräfte und Mitarbeitende sollten darin geschult werden, wie sie KI sinnvoll in ihre Arbeit integrieren können, ohne den menschlichen Faktor zu vernachlässigen.
König: Wie nutzen Sie ganz persönlich KI-Chatbots und was ist dabei aus ihrer Sicht das Wichtigste?
Knodel: Ich arbeite regelmäßig mit verschiedenen KI-Tools, sowohl beruflich als auch privat. Zum Beispiel nutze ich KI-Tools gern für Brainstorming-Sitzungen, um Ideen zu entwickeln und neue Perspektiven zu gewinnen. So ist zum Beispiel auch unser Podcast-Titel "Kreide. KI. Klartext." entstanden. Natürlich nicht beim ersten Prompt und auch nach zahlreichen Brainstormings im Team, aber letztendlich hat dieser KI-generierte Titel “gewonnen”.
Ein weiterer wichtiger Anwendungsbereich ist die Korrektur von Texten, wo KI-Tools mir helfen, Grammatik- und Rechtschreibfehler zu identifizieren und Verbesserungsvorschläge zu erhalten. Hier arbeite ich gerne mit Deepl.
Darüber hinaus lasse ich mir gerne längere Artikel oder Studien zusammenfassen. Entweder als Text oder gerne auch als Audiodatei. So bekomme ich schon eine gute Idee, worum es in dem Artikel geht und kann dann immer noch entscheiden, ob ich ihn komplett lesen will.
Der Einsatz von KI-Tools ist besonders praktisch, wenn ich mit meinen Kindern lerne. Ich habe KI-Assistenten entwickelt, die auf die entsprechenden Lehrpläne zugreifen. Wenn wir dann die Themen für die Vorbereitung auf Klassenarbeiten eingeben, erhalten wir in kürzester Zeit eine tolle Lernunterstützung. So kann ich meine Kinder besser beim Lernen begleiten und sie lernen gleichzeitig, was im Umgang mit KI gut funktioniert und was nicht. Teilweise erkennen sie auch selbst Fehler oder Unterschiede zu dem, was sie in der Schule gelernt haben - dann weiß ich: Super, sie haben es verstanden und fast noch besser: Sie wissen, dass sie kritisch mit den Ergebnissen der KI umgehen müssen.
Hinweis der Redaktion: Eine frühe Version des Interviews entsprach nicht unseren redaktionellen Vorgaben, weshalb es aktualisiert wurde.
