Wie staatliche Medienkontrolle in KI-Antworten weiterwirkt

Der AP-Artikel von Didi Tang verknüpft zwei Untersuchungen zu politischer Einflussnahme auf KI. Für die hier vertiefte Nature-Studie ist besonders das ChatGPT-Beispiel von OpenAI aufschlussreich: Auf die englische Frage, ob China eine Demokratie sei, verneinte das System die allgemein übliche Einordnung als Demokratie. Auf Chinesisch relativierte es seine Antwort anhand der Definition von Demokratie. AP berichtet außerdem über eine separate Untersuchung des Oversight Board zu verweigerter Regierungskritik. [1]

Die Originalstudie „State media control influences large language models“ von Hannah Waight und Kolleg:innen kombiniert sechs Teilstudien. Sie untersucht einen indirekten Einflussweg: Regierungen prägen verfügbare Medieninhalte, die anschließend in Trainingsdaten eingehen können. Ein länderübergreifender Zusammenhang zwischen geringerer Medienfreiheit und regierungsfreundlicheren Antworten ist zunächst korrelativ. Ein Nachtrainingsexperiment mit einem offenen Modell stützt den möglichen Mechanismus: Zusätzliches Training auf staatlich koordinierten chinesischen Medien machte Antworten über Chinas Politik positiver. Tests kommerzieller Modelle zeigen ebenfalls sprachabhängige Unterschiede. [2]

Die Begleitseite erläutert, dass menschliche Bewertungen und automatisierte Vergleiche sowie reale Nutzerfragen einbezogen wurden. Der Befund betrifft ein Muster über viele Antworten, nicht eine ausnahmslose Regel für jede Anfrage. [3]

Ethische Einordnung: Wenn dieselbe Sachfrage je nach Sprache anders gerahmt wird, geht es um gleichberechtigten Informationszugang und die Sichtbarkeit politischer Perspektiven. Ein flüssiger, scheinbar neutraler Dialog kann Machtverhältnisse der zugrunde liegenden Informationswelt verdecken. Anbieter und unabhängige Prüfstellen sollten deshalb politische Antworten mehrsprachig vergleichen und ihre Unterschiede nachvollziehbar machen.

Als Indiz gelesen wird Sprache damit selbst zu einer Frage der Informationsmacht: Welche Darstellung Nutzer:innen erhalten, kann auch davon abhängen, in welcher Sprache sie fragen.