Die Europäische Kommission veröffentlichte letzte Woche Leitlinien für den Einsatz künstlicher Intelligenz in Bildung und Berufsbildung. Die „ethischen Leitlinien für Lehrkräfte über die Nutzung von KI und Daten für Lehr- und Lernzwecke“ wurden von einer Expertengruppe erarbeitet und richten sich an Lehrpersonal und Einrichtungsleitung. Die Kommission kündigte an, diese u.a. über das Programm verbreiten zu wollen, da sie nach ihrer Auffassung eine solide Grundlage darstellen, „um den Einsatz dieser Technologien auf rücksichtsvolle, sichere und ethische Weise gemeinsam oder einzeln zu erproben und auszuweiten“.
Die Nutzung von KΙ in der Bildung ist keine Zukunftsmusik mehr, begründet sie die Initiative, die Teil des Aktionsplans für digitale Bildung ist. Sie verändere schon jetzt die Arbeitsweise von Schulen, Universitäten und Lehrkräften und die Lernprozesse aller Kinder. Sie mache Bildungsumgebungen anpassungsfähiger, indem sie Lehrkräften hilft, auf die spezifischen Bedürfnisse jedes Lernenden einzugehen. KI entwickele sich schnell zu einem festen Bestandteil des personalisierten Unterrichts und der Leistungsbewertung. Und sie entfalte zunehmend ihr Potenzial, wertvolle Erkenntnisse über die Entwicklung der Schülerinnen und Schüler zu liefern.
Die Orientierungshilfe sollen Lehrkräften helfen, das Potenzial von KI-Anwendungen und Datennutzung in der Bildung zu begreifen und sie für die möglichen Risiken zu sensibilisieren. Sie sollen dazu beitragen, dass Lehrer und Lehrerinnen, Ausbilder und Ausbilderinnen sowie Pädagogen sich positiv, kritisch und ethisch mit KI-Systemen auseinandersetzen und deren Potenzial vollständig ausschöpfen können. Sie sollen außerdem helfen, mit einigen Vorurteilen aufzuräumen, wenn es um Bildung und künstliche Intelligenz geht: KI sei zu komplex und schwer verständlich, KI habe in der Bildung nichts zu suchen, KI sei nicht inklusiv, KI-Systeme seien nicht vertrauenswürdig und last but not least, KI würde die Rolle der Lehrkraft untergraben.
Um ein KI-System nutzen zu können, muss nicht unbedingt dessen Funktionsweise verstanden werden, meint die Expertengruppe. Wichtig sei jedoch, die Schule oder die Lehrkraft in die Lage zu versetzen, relevante Fragen zu formulieren und einen konstruktiven Dialog mit den Anbietern von KI-Systemen oder mit den zuständigen öffentlichen Stellen (z. B. Markt-aufsichtsbehörden, Bildungsministerien, regionale und lokale Bildungsbehörden und Schulbehörden) zu führen. Das Dokument listet 36 solcher maßgeblichen Fragen auf, die den im nachfolgenden aufgeführten Kernanforderungen an KI in Bildung und Ausbildung zugeordnet sind:
- der Vorrang menschlichen Handelns und menschlicher Aufsicht
- Transparenz
- Vielfalt, Nichtdiskriminierung und Fairness
- gesellschaftliches und ökologisches Wohlergehen
- Datenschutz und Datenqualitätsmanagement
- Rechenschaftspflicht.
Um beispielsweise den ethischen Aspekt von Nichtdiskriminierung und Vielfalt sicher zu stellen, sollten sich Lehrkräfte und Leitung mit den folgenden Fragen auseinandersetzen:
- Ist das System für jeden in gleicher Weise und barrierefrei zugänglich?
- Bietet das System geeignete Interaktionsmöglichkeiten für Lernende mit Behinderungen oder sonderpädagogischem Förderbedarf? Ist das KI-System so konzipiert, dass es die Lernenden respektvoll behandelt und sich an ihre individuellen Bedürfnisse anpasst?
- Ist die Benutzeroberfläche für die Altersgruppe der Lernenden geeignet und zugänglich? Wurden die Benutzerfreundlichkeit und das Benutzererlebnis für die Altersgruppe getestet?
- Wird mit bestimmten Verfahren sichergestellt, dass durch die Nutzung der KI niemand diskriminiert oder ungerecht behandelt wird?
- Geben die Systemdokumentation oder der Trainingsprozess der KI Aufschluss über mögliche Verzerrungen in den Daten?
- Gibt es Verfahren zur Aufdeckung und Beseitigung von möglichen Verzerrungen oder vermeintlichen Ungleichheiten?
Die Empfehlung macht deutlich, dass die Anwendung der Leitfragen sehr unterschiedlich aussehen kann. Dafür werden eine Reihe von Fallbeispielen aufgezeigt. Außerdem enthält sie ein Kapitel über den Planungsprozess einer wirksamen Nutzung von KI und Daten in einer Bildungseinrichtung.
Die Orientierungshilfe basiert unter anderem auf einem Bericht der Expertengruppe zu KI und Daten in der allgemeinen und beruflichen Bildung, deren Zusammenfassung auch in deutscher Sprache vorliegt.