Post-Generative AI - wir müssen reden

Es lässt mir keine Ruhe mehr, denn die Geschwindigkeit wie sich AI entwickelt ist tatsächlich Besorgnis erregend. Ich meine, ich habe mein ganzes (wissenschaftliches) Leben behauptet, dass die Technik eigentlich nicht die Gesellschaft bestimmt, sondern dass wir schlichtweg immer zu langsam sind bis wir auf bahnbrechende oder disruptive Technologien reagieren. Gefühlt hetzen wir halt hinterher und reagieren mehr als wir noch aktiv bestimmen. Nur jetzt hab ich ein ungutes Gefühl, dass tatsächlich die Geschwindigkeit zu schnell ist, durch ein gegenseitiges Aufrüsten und Überbieten. Es bröckelt meiner Meinung nach überall, aber vielleicht versuch ich es anders zu beschreiben.

Mein persönlicher Auslöser, ist jetzt ein E-Mail gewesen von einem Journal Editor (vielleicht ist das auch keine reale Person mehr gewesen), wo mir als Wissenschaftler angeboten wird gegen Entgelt gerne eine Ko-Autorenschaft anzunehmen. Wie was, dachte ich mir - ich kann mir quasi den Titel der Publikation aussuchen, Geld überweisen und morgen bin ich Mitautor und meine wissenschaftlichen Kennzahlen gehen in die Höhe. Klar, wenn sich das Journal ansieht, dann ist gleich die erste Publikation AI-generiert. Es stimmen die Referenzen nicht, über den Inhalt bilde ich mir kein Urteil mehr. Das reiht sich nahtlos an andere Ereignisse, wie z.B. immer mehr AI-generierte Publikationen die ich reviewen darf, ablehne und doch publiziert werden. Oder wo Wissenschaftler berichten, dass sie heute bei Projektanträgen nur mehr CVs hinschicken und am nächsten Tag ein 80-Seiten Antrag am Tisch liegt. Andere versuchen AI-generierte Anträge rauszufiltern indem Sie AI-Agenten drauf ansetzen. Deliverables bei EU-Projekten werden heute immer in-time von allen Partner:innen geliefert. Etwas das vor wenigen Jahren undenkbar war, nur halt AI-generiert und macht braucht Tage & Wochen um den Quatsch wieder zu bereinigen.

Kurzum, ich stelle das wissenschaftliche System mit all seinen Qualitätssystemen nicht nur in Frage, ich frage mich vielmehr was tun wir gerade? Was ist denn diese Wissenschaft? Ich mein wenn ich die Agenten auf den Weg schicken kann, die Literatur zu durchkämmen und sie mir die Hypothesen generieren, danach in einen Projektantrag gießen, die Daten sammeln und auswerten, publizieren und und und … Und ja das Schlimmste, das Ergebnis ist vielleicht auch gar nicht so schlecht bzw. hat durchaus eine diskussionswürdige Berechtigung. Wer sagt, dass das was wir bis dato so gemacht haben immer so fehlerfrei und redlich war?

Diese Geschichten kann man nahtlos weitererzählen oder auf ganze Berufsfelder anwenden. So ist das Software-Engineering bald nur mehr ein steuern von Agenten ohne jemals eine eigene Code-Zeile geschrieben zu haben. Die letzten Berichte zeigen, dass wir innerhalb von Tagen, Stunden in der Lage sind beliebige Software erzeugen zu lassen - also auch wenn ich noch so eine coole Idee habe und neue Software auf den Markt bringe, sind alle in der Lage diese sofort nachzubauen. Auch das Argument es gehe um die Definition eines Prozesses ist hinfällig, das können sich die Agenten auch gegenseitig ausmachen.

Auch hatte ich immer behauptet, dass Technik an sich wertneutral ist, weil es immer die Menschen braucht um daraus etwas Gutes oder Schlechtes zu machen. Hm? Ja sicher, aber wenn das auch immer mehr über Agenten geht, was machen denn die dann? Und wenn wir AI überall implementieren in jedem Auto, in jeder Steuerungssoftware, im militärischen Bereich, in jedem humaniden Roboter? Fragen oder Fragen türmen sich auf vor mir, die man glaub ich nicht einfach von der Hand wischen kann.

Also was ich nicht will ist schwarz malen, aber ich habe doch ein Bedürfnis über das „post-generative AI“-Zeitalter nachzudenken. Über Notwendigkeiten, Spielregeln, Mechanismen die das Zusammenleben in der Gesellschaft ermöglichen und auch lebenswert machen. Dazu haben wir jetzt diese Webseite online gestellt und wir rufen auf zum Diskurs. Was schwebt uns vor?

• Sammeln wir Beispiele von Absurditäten aber auch gleichzeitig guten Lösungen. Schickt diese an uns, wir integrieren sie, am besten mit Link unter Beitragen
• Teilt unsere Seite und redet bzw. beginnt den Diskurs, wenn wir gemeinsam unsere Gedanken bündeln sehen wir schneller Möglichkeiten
• Und natürlich schickt uns Anregungen

Panta rhei – möge es in die richtige Richtung gehen.