Schon 2022: Bildungs-KI braucht mehr als den Anschein von Objektivität

Ryan S. Baker und Aaron Hawn untersuchen in „Algorithmic Bias in Education“ die Ursachen und dokumentierten Folgen algorithmischer Verzerrungen im Bildungsbereich. Der Beitrag erschien in der Zeitschriftenausgabe vom Dezember 2022; sein DOI verweist auf die frühere Onlinepublikation. Damit ist er ein früher Bezugspunkt aus der Zeit vor der breiten Nutzung generativer KI. Er untersucht überwiegend Vorhersage- und Entscheidungssysteme, nicht heutige Chatbots. [1][2]

Die Übersicht zeigt: Verzerrungen können entlang des gesamten Entwicklungs- und Einsatzprozesses entstehen – von unzureichend repräsentativen Daten und problematischen Bewertungen bis zur Nutzung eines Modells außerhalb seines vorgesehenen Zwecks. Betroffen sein können etwa Lernende unterschiedlicher ethnischer Zugehörigkeit, Geschlechter, Nationalitäten oder sozialer Lebenslagen. Die damalige Evidenz ist jedoch lückenhaft und stark auf die USA konzentriert. [1]

Ethisch geht es um Bildungschancen: Wer wird als gefährdet eingestuft, wie werden Leistungen beurteilt, und für wen funktionieren Lernsysteme schlechter? Auch der Schutz sensibler Daten ist Teil dieses Spannungsfelds. Ohne geeignete Informationen bleiben Ungleichheiten womöglich unsichtbar; ihre Erhebung kann zugleich die Privatsphäre gefährden. [1]

Die Autoren schlagen vier Handlungsfelder vor: bessere Datenerhebung unter Schutz der Privatsphäre, geeignete Prüfwerkzeuge und Referenzdatensätze, mehr Offenheit und Anreize zur Untersuchung von Verzerrungen sowie die kontinuierliche Beteiligung betroffener Gemeinschaften. [1]

Heutige Einordnung: Mit der breiteren Nutzung von KI in Bildungsprozessen erhalten diese Warnungen zusätzliches Gewicht. Das belegt keine automatische Zunahme jeder einzelnen Verzerrung durch große Sprachmodelle. Es begründet aber, Fairness, Transparenz und Verantwortlichkeit auch bei neuen Anwendungen systematisch zu prüfen. Als Indiz gelesen reicht der Anspruch über technisch bessere Modelle hinaus: Bildungs-KI muss sich an ihren Folgen für unterschiedliche Lernende messen lassen.