Öffentlich geförderte KI soll Verbundenheit, Kompetenz und Autonomie stärken

Wer KI mit öffentlichen Ressourcen fördert, sollte einen nachweisbaren gesellschaftlichen Nutzen einfordern. Diesen Vorschlag von Sandra Wachter, Brent Mittelstadt, Daria Onitiu und Netta Weinstein stellt das Weizenbaum-Institut vor. [1] Die Studie argumentiert auf Grundlage psychologischer Forschung und einer Analyse der KI-Politik; sie ist keine neue experimentelle Untersuchung der Wirkung einzelner KI-Produkte. [2]

Aus der Selbstbestimmungstheorie arbeiten die Autor:innen drei psychologische Grundbedürfnisse als Voraussetzungen von Glück und Wohlbefinden heraus:

• Verbundenheit: Menschen brauchen tragfähige Beziehungen, Fürsorge und Zugehörigkeit. Auch Naturverbundenheit zählt dazu. KI-Angebote sollten diese Verbindungen unterstützen; bindende Chatbot-Gestaltung und der Verlust von Naturzugang durch Rechenzentren können ihnen entgegenwirken.
• Kompetenz: Menschen wollen lernen, Herausforderungen bewältigen und sich als wirksam erleben. KI sollte deshalb Fähigkeiten und sinnvolle Tätigkeit fördern. Werden Denk- und Lernaufgaben dauerhaft ausgelagert, drohen Kompetenzverluste.
• Autonomie: Gemeint ist Handeln aus eigener Überzeugung und im Einklang mit eigenen Werten. Unterstützung durch andere ist damit vereinbar. Manipulative Personalisierung, übermäßig zustimmende Chatbots und Druck können diese Selbstbestimmung untergraben. [2]

Unternehmen sollen die drei Bedürfnisse als Gestaltungsziele berücksichtigen, ohne Nutzer:innen bevormundend zu einem vermeintlich glücklichen Verhalten zu zwingen. Für öffentliche Förderung schlagen die Autor:innen detaillierte Pläne mit erwarteten Vorteilen, begründeten Designentscheidungen, Anwendungsfällen, Messgrößen und wissenschaftlicher Evidenz vor. Die Einlösung dieser Vorhersagen soll überprüfbar sein. Verbindliche Maßstäbe für Umsetzung, Messung und Durchsetzung müssen allerdings erst entwickelt werden. [2]

Die gesellschaftliche Bedeutung reicht über individuelles Wohlgefühl hinaus: Die herangezogene Forschung verbindet Wohlbefinden mit Lernen, Kreativität, Hilfsbereitschaft und Kooperation. Die drei Bedürfnisse schaffen Bedingungen, unter denen Menschen zu Gemeinschaften beitragen können. [2]

Als Indiz gelesen verschiebt sich damit der Anspruch an KI-Förderung: Ihr Erfolg soll auch daran gemessen werden, ob Menschen ihr Leben verbunden, kompetent und selbstbestimmt gestalten können.