KI in der Lehre

Einleitung*

Das Impulspapier der Ständigen Wissenschaftlichen Kommission der Kultusministerkonferenz (SWK) beschäftigt sich mit den Potenzialen und Herausforderungen von Large Language Models (LLM) im Bildungskontext. LLM sind generative KI-Systeme, die auf Basis riesiger Datenmengen Sprache vorhersagen und produzieren können, aber kein semantisches oder Weltwissen besitzen.

LLM können Lehr-Lernprozesse unterstützen, indem sie z. B. Texterstellung, Recherche, Feedback, Binnendifferenzierung und Materialentwicklung erleichtern, aber auch Risiken wie Halluzinationen, Biases, Informationssteuerung und Kompetenzverlust mit sich bringen. Um LLM kompetent und lernförderlich zu nutzen, müssen Lernende und Lehrende über technologiebezogenes Wissen, Quellenbewertung, inhaltliches Wissen, Selbstregulationskompetenzen und mediendidaktische Kompetenzen verfügen. Die SWK empfiehlt eine Übergangsphase zur systematischen Erprobung von LLM in der Bildungspraxis, die Entwicklung domänenspezifischer Tools, die Anpassung des Einsatzes von LLM an die Bildungsetappen, die Veränderung der Prüfungskultur, die Schaffung von Rahmenbedingungen und die Integration von LLM in Lernplattformen.

Zusammenfassung 3. Potenziale und Grenzen aktuellen LLM-Tools für Lehren und Lernen:*

• Nutzung von LLM bei Texterstellung und Recherchen: LLM können Schreibprozesse und Informationsrecherchen unterstützen, aber auch lernförderliche Aktivitäten ersetzen oder erschweren. Lernende sollten LLM als Denkwerkzeug zielgerichtet nutzen und die Qualität der generierten Texte kritisch prüfen.
• Binnen- und Fachdifferenzierung, adaptives Lernen und individuelles Feedback: LLM können Lehrkräfte bei der Erstellung adaptiver Unterrichtskonzepte und individueller Rückmeldungen entlasten. Dabei ist eine Ko-Konstruktion zwischen LLM und Lehrkraft unerlässlich, um Fehler und Verzerrungen zu erkennen und zu korrigieren. LLM können jedoch nicht die didaktischen Fachkenntnisse der Lehrkräfte und das fachdidaktisch fundierte Design von Lernumgebungen ersetzen.
• Erstellung und Nutzung von Lernmaterial: LLM bieten pädagogischen Fachkräften zahlreiche Unterstützungsmöglichkeiten bei der Konzeption von Lehr-Lernmaterialien oder Unterrichtsplanungen. Dabei ist eine regulative Funktion der Lehrkräfte essentiell, um die Fehleranfälligkeit der Ergebnisse zu berücksichtigen. LLM bieten auch Potenziale für innovative Lehransätze, wie z. B. auf Lehrinhalten basierende Lernspiele oder die Einbeziehung von Musik oder Kunst.

Zusammenfassung 4. Notwendige Voraussetzungen zur kompetenten Nutzung von LLM:*

• Technologiebezogenes Wissen und Reflexion: Lernende und Lehrende müssen die Funktionsweise, Grenzen und Verzerrungen von LLM verstehen und kritisch reflektieren können. Dazu sind entsprechende Kompetenzen und Bildungsangebote zu fördern.
• Quellenbewertung, -prüfung und -reflexion: Lernende und Lehrende müssen die Qualität, Vertrauenswürdigkeit und Relevanz von LLM-generierten Inhalten beurteilen können. Dazu sind Informationskompetenzen und kritisches Denken zu stärken.
• Inhaltliches Wissen und Prompt-Tuning: Lernende und Lehrende müssen über fachliches Wissen verfügen, um LLM gezielt und sinnvoll anzusteuern und zu nutzen. Dazu sind fachdidaktische und prompt-tuning Kompetenzen zu entwickeln.
• Selbstregulationskompetenzen: Lernende und Lehrende müssen in der Lage sein, ihre eigenen Lern- und Lehrprozesse mit LLM zu steuern, zu überwachen und zu regulieren. Dazu sind metakognitive und motivationale Kompetenzen zu fördern.
• Mediendidaktische Kompetenzen bei Lehrenden: Lehrende müssen wissen, wie sie LLM in ihren Unterricht integrieren und didaktisch gestalten können. Dazu sind mediendidaktische Kompetenzen und Fortbildungen zu unterstützen.
• Lernrelevante kognitive Anstrengung: Die Autoren empfehlen, die Lernenden zu fordern, aber nicht zu überfordern, indem sie die kognitive Anstrengung erhöhen, die für das Lernen relevant ist, und die Belastung vermeiden, die für das Lernen irrelevant ist (z. B. Ablenkung oder Passivität).
• Mediendidaktische Kompetenzen bei Lehrenden: Die Autoren betonen, dass die Lehrenden nicht nur die gleichen Kompetenzen wie die Lernenden beherrschen müssen, sondern auch wissen müssen, wie sie LLM für ihre Fächer lernwirksam einsetzen können. Sie plädieren für differenzierte und forschungsbasierte Fortbildungsangebote für das Lehrpersonal.
• Rechtliche Aspekte – Urheberrecht und Datenschutz: Die Autoren weisen auf offene Fragen des Urheberrechts hin, die sich aus der Nutzung von LLM ergeben, z. B. ob die Zustimmung der Urheber:in für das Training nötig ist, oder ob die Daten der Nutzer:innen zum weiteren Training genutzt werden dürfen. Sie fordern auch Transparenz und Datenschutz bei der Verarbeitung der Daten durch die KI.
• Auswirkungen auf die Prüfungskultur: Die Autoren diskutieren, wie die Nutzung von LLM die Prüfungskultur hinsichtlich der Lernziele, der Validität der Leistungsüberprüfung und der Kompetenzen der Prüfenden beeinflusst. Sie schlagen vor, prozessorientiertere Prüfungsformate zu entwickeln, die die Koaktivität mit LLM als Lernziel berücksichtigen, und die Nutzung von LLM in Prüfungen zu differenzieren.
• Leistungsscheren zwischen Gruppen: Die Autoren fragen, ob leistungsstärkere oder leistungsschwächere Lernende von der Nutzung von LLM profitieren, und weisen auf mögliche Zugangsbarrieren für benachteiligte Lernende hin. Sie fordern eine gleichmäßige und hochwertige Versorgung aller Lernenden mit KI-Systemen.
• Qualitätssicherung: Die Autoren machen auf die Herausforderungen der Qualitätssicherung aufmerksam, die durch Halluzinationen und Verzerrungen (Biases) der LLM entstehen. Sie plädieren für eine Prüfung der LLM-Systeme vor dem Einsatz in der Schule, die Qualitätsmerkmale und Forschungsergebnisse berücksichtigt. Sie sprechen sich auch für die Entwicklung von domänenspezifischen Tools aus, die fachdidaktische Expertise und Forschung einbeziehen.

Zusammenfassung 5. Herausforderungen:*

• Rechtliche Aspekte – Urheberrecht und Datenschutz: Die Nutzung von LLM wirft Fragen zum Urheberrecht der generierten Texte und zum Datenschutz der Nutzer:innen auf. Es ist unklar, ob die Zustimmung der Urheber:innen der Trainingsdaten nötig ist und wie die Daten der Nutzer:innen verarbeitet werden. Es bedarf einer transparenten und datenschutzkonformen Regelung für den Einsatz von LLM in Bildungskontexten.
• Auswirkungen auf die Prüfungskultur: Die Nutzung von LLM beeinflusst die Lernziele, die Validität und die Kompetenzen der Prüfungen. Es wird argumentiert, dass traditionelle Prüfungsformate ihre Aussagekraft verlieren und prozessorientiertere Prüfungsformate an Bedeutung gewinnen. Zudem müssen Lernende die versierte Koaktivität mit LLM als Zukunftskompetenz erwerben und nachweisen können. Lehrkräfte müssen sicherstellen, dass die Prüfungen die Leistung der Lernenden und nicht die Qualität der LLM messen.
• Leistungsscheren zwischen Gruppen: Die Nutzung von LLM kann zu Leistungsunterschieden zwischen Gruppen von Lernenden führen, je nachdem, wie gut sie Zugang zu und Kompetenz im Umgang mit LLM haben. Es besteht die Gefahr einer digitalen Spaltung, die soziale Ungleichheiten verstärkt. Es müssen Maßnahmen ergriffen werden, um allen Lernenden einen gleichberechtigten Zugang zu und eine qualifizierte Nutzung von LLM zu ermöglichen.
• Qualitätssicherung: Die Nutzung von LLM erfordert eine Qualitätssicherung der generierten Inhalte und des Feedbacks. LLM können Fehler, Verzerrungen oder Falschinformationen produzieren, die schwer zu erkennen sind. LLM haben kein semantisches Wissen oder Weltwissen und können die Inhalte nicht inhaltlich bewerten. Es ist daher notwendig, dass Lehrkräfte und Lernende die Grenzen und Risiken von LLM kennen und kritisch reflektieren. Zudem müssen LLM als Ergänzung und nicht als Ersatz für menschliche Expertise gesehen werden.