Der Einsatz von Künstlicher Intelligenz in der Lehre bietet eine individuellere und somit effektivere Förderung von Studierenden. KI lässt sich sowohl in der Vorbereitung einer Lehrveranstaltung als auch während einer Lehrveranstaltung anwenden.

Aktuell liegt noch ein Mangel an empirischen Studien zur Lernwirksamkeit mit KI, welche über singulären Anwendungen hinausgehen, vor.

Large Language Models und ihre Potenziale im Bildungssystem

Die Ständige Wissenschaftliche Kommission der Kultusministerkonferenz (SWK) hat ein Impulspapier zu Large Language Models (LLM) veröffentlicht:

Einleitung*

Das Impulspapier der Ständigen Wissenschaftlichen Kommission der Kultusministerkonferenz (SWK) beschäftigt sich mit den Potenzialen und Herausforderungen von Large Language Models (LLM) im Bildungskontext. LLM sind generative KI-Systeme, die auf Basis riesiger Datenmengen Sprache vorhersagen und produzieren können, aber kein semantisches oder Weltwissen besitzen.

LLM können Lehr-Lernprozesse unterstützen, indem sie z. B. Texterstellung, Recherche, Feedback, Binnendifferenzierung und Materialentwicklung erleichtern, aber auch Risiken wie Halluzinationen, Biases, Informationssteuerung und Kompetenzverlust mit sich bringen. Um LLM kompetent und lernförderlich zu nutzen, müssen Lernende und Lehrende über technologiebezogenes Wissen, Quellenbewertung, inhaltliches Wissen, Selbstregulationskompetenzen und mediendidaktische Kompetenzen verfügen. Die SWK empfiehlt eine Übergangsphase zur systematischen Erprobung von LLM in der Bildungspraxis, die Entwicklung domänenspezifischer Tools, die Anpassung des Einsatzes von LLM an die Bildungsetappen, die Veränderung der Prüfungskultur, die Schaffung von Rahmenbedingungen und die Integration von LLM in Lernplattformen.

Zusammenfassung 3. Potenziale und Grenzen aktuellen LLM-Tools für Lehren und Lernen:*

• Nutzung von LLM bei Texterstellung und Recherchen: LLM können Schreibprozesse und Informationsrecherchen unterstützen, aber auch lernförderliche Aktivitäten ersetzen oder erschweren. Lernende sollten LLM als Denkwerkzeug zielgerichtet nutzen und die Qualität der generierten Texte kritisch prüfen.
• Binnen- und Fachdifferenzierung, adaptives Lernen und individuelles Feedback: LLM können Lehrkräfte bei der Erstellung adaptiver Unterrichtskonzepte und individueller Rückmeldungen entlasten. Dabei ist eine Ko-Konstruktion zwischen LLM und Lehrkraft unerlässlich, um Fehler und Verzerrungen zu erkennen und zu korrigieren. LLM können jedoch nicht die didaktischen Fachkenntnisse der Lehrkräfte und das fachdidaktisch fundierte Design von Lernumgebungen ersetzen.
• Erstellung und Nutzung von Lernmaterial: LLM bieten pädagogischen Fachkräften zahlreiche Unterstützungsmöglichkeiten bei der Konzeption von Lehr-Lernmaterialien oder Unterrichtsplanungen. Dabei ist eine regulative Funktion der Lehrkräfte essentiell, um die Fehleranfälligkeit der Ergebnisse zu berücksichtigen. LLM bieten auch Potenziale für innovative Lehransätze, wie z. B. auf Lehrinhalten basierende Lernspiele oder die Einbeziehung von Musik oder Kunst.

Zusammenfassung 4. Notwendige Voraussetzungen zur kompetenten Nutzung von LLM:*

• Technologiebezogenes Wissen und Reflexion: Lernende und Lehrende müssen die Funktionsweise, Grenzen und Verzerrungen von LLM verstehen und kritisch reflektieren können. Dazu sind entsprechende Kompetenzen und Bildungsangebote zu fördern.
• Quellenbewertung, -prüfung und -reflexion: Lernende und Lehrende müssen die Qualität, Vertrauenswürdigkeit und Relevanz von LLM-generierten Inhalten beurteilen können. Dazu sind Informationskompetenzen und kritisches Denken zu stärken.
• Inhaltliches Wissen und Prompt-Tuning: Lernende und Lehrende müssen über fachliches Wissen verfügen, um LLM gezielt und sinnvoll anzusteuern und zu nutzen. Dazu sind fachdidaktische und prompt-tuning Kompetenzen zu entwickeln.
• Selbstregulationskompetenzen: Lernende und Lehrende müssen in der Lage sein, ihre eigenen Lern- und Lehrprozesse mit LLM zu steuern, zu überwachen und zu regulieren. Dazu sind metakognitive und motivationale Kompetenzen zu fördern.
• Mediendidaktische Kompetenzen bei Lehrenden: Lehrende müssen wissen, wie sie LLM in ihren Unterricht integrieren und didaktisch gestalten können. Dazu sind mediendidaktische Kompetenzen und Fortbildungen zu unterstützen.
• Lernrelevante kognitive Anstrengung: Die Autoren empfehlen, die Lernenden zu fordern, aber nicht zu überfordern, indem sie die kognitive Anstrengung erhöhen, die für das Lernen relevant ist, und die Belastung vermeiden, die für das Lernen irrelevant ist (z. B. Ablenkung oder Passivität).
• Mediendidaktische Kompetenzen bei Lehrenden: Die Autoren betonen, dass die Lehrenden nicht nur die gleichen Kompetenzen wie die Lernenden beherrschen müssen, sondern auch wissen müssen, wie sie LLM für ihre Fächer lernwirksam einsetzen können. Sie plädieren für differenzierte und forschungsbasierte Fortbildungsangebote für das Lehrpersonal.
• Rechtliche Aspekte – Urheberrecht und Datenschutz: Die Autoren weisen auf offene Fragen des Urheberrechts hin, die sich aus der Nutzung von LLM ergeben, z. B. ob die Zustimmung der Urheber:in für das Training nötig ist, oder ob die Daten der Nutzer:innen zum weiteren Training genutzt werden dürfen. Sie fordern auch Transparenz und Datenschutz bei der Verarbeitung der Daten durch die KI.
• Auswirkungen auf die Prüfungskultur: Die Autoren diskutieren, wie die Nutzung von LLM die Prüfungskultur hinsichtlich der Lernziele, der Validität der Leistungsüberprüfung und der Kompetenzen der Prüfenden beeinflusst. Sie schlagen vor, prozessorientiertere Prüfungsformate zu entwickeln, die die Koaktivität mit LLM als Lernziel berücksichtigen, und die Nutzung von LLM in Prüfungen zu differenzieren.
• Leistungsscheren zwischen Gruppen: Die Autoren fragen, ob leistungsstärkere oder leistungsschwächere Lernende von der Nutzung von LLM profitieren, und weisen auf mögliche Zugangsbarrieren für benachteiligte Lernende hin. Sie fordern eine gleichmäßige und hochwertige Versorgung aller Lernenden mit KI-Systemen.
• Qualitätssicherung: Die Autoren machen auf die Herausforderungen der Qualitätssicherung aufmerksam, die durch Halluzinationen und Verzerrungen (Biases) der LLM entstehen. Sie plädieren für eine Prüfung der LLM-Systeme vor dem Einsatz in der Schule, die Qualitätsmerkmale und Forschungsergebnisse berücksichtigt. Sie sprechen sich auch für die Entwicklung von domänenspezifischen Tools aus, die fachdidaktische Expertise und Forschung einbeziehen.

Zusammenfassung 5. Herausforderungen:*

• Rechtliche Aspekte – Urheberrecht und Datenschutz: Die Nutzung von LLM wirft Fragen zum Urheberrecht der generierten Texte und zum Datenschutz der Nutzer:innen auf. Es ist unklar, ob die Zustimmung der Urheber:innen der Trainingsdaten nötig ist und wie die Daten der Nutzer:innen verarbeitet werden. Es bedarf einer transparenten und datenschutzkonformen Regelung für den Einsatz von LLM in Bildungskontexten.
• Auswirkungen auf die Prüfungskultur: Die Nutzung von LLM beeinflusst die Lernziele, die Validität und die Kompetenzen der Prüfungen. Es wird argumentiert, dass traditionelle Prüfungsformate ihre Aussagekraft verlieren und prozessorientiertere Prüfungsformate an Bedeutung gewinnen. Zudem müssen Lernende die versierte Koaktivität mit LLM als Zukunftskompetenz erwerben und nachweisen können. Lehrkräfte müssen sicherstellen, dass die Prüfungen die Leistung der Lernenden und nicht die Qualität der LLM messen.
• Leistungsscheren zwischen Gruppen: Die Nutzung von LLM kann zu Leistungsunterschieden zwischen Gruppen von Lernenden führen, je nachdem, wie gut sie Zugang zu und Kompetenz im Umgang mit LLM haben. Es besteht die Gefahr einer digitalen Spaltung, die soziale Ungleichheiten verstärkt. Es müssen Maßnahmen ergriffen werden, um allen Lernenden einen gleichberechtigten Zugang zu und eine qualifizierte Nutzung von LLM zu ermöglichen.
• Qualitätssicherung: Die Nutzung von LLM erfordert eine Qualitätssicherung der generierten Inhalte und des Feedbacks. LLM können Fehler, Verzerrungen oder Falschinformationen produzieren, die schwer zu erkennen sind. LLM haben kein semantisches Wissen oder Weltwissen und können die Inhalte nicht inhaltlich bewerten. Es ist daher notwendig, dass Lehrkräfte und Lernende die Grenzen und Risiken von LLM kennen und kritisch reflektieren. Zudem müssen LLM als Ergänzung und nicht als Ersatz für menschliche Expertise gesehen werden.

Rules for Tools

Zu Beginn einer Veranstaltung soll ersichtlich werden, in welchem Umfang Studierende KI während Vorlesungen/ Übungen und ggfs. Prüfungen verwenden dürfen und wie sie damit umgehen sollen. Dabei soll genau festgelegt werden, welche Regeln für welche Art von Arbeiten, wie beispielsweise Übungen, Hausarbeiten, etc. gelten.

Diese Regeln können z. B. beinhalten, welche Hilfsmittel (KI-Tools) verwendet werden dürfen, wie damit sinnvoll umzugehen ist und wie diese angegeben werden sollen. Ein Beispiel für die Aufstellung von Regeln sind die "Rules for Tools" von Prof. Dr. Christian Spannagel.