---
title: Wenn KI nicht mehr nur antwortet, sondern handelt
author: Benedikt Brünner
date: 2026-10-16
url: https://postgenerativ.at/indizien/2026-10-16/wenn-ki-nicht-mehr-nur-antwortet-sondern-handelt
lang: de
type: Indiz
summary: Ein Experiment von ProjectDiscovery zeigt, wie ein manipuliertes KI-Modell durch eine unscheinbare Wortfolge versteckte Aktionen auslösen kann. Damit rücken Vertrauen, Berechtigungen und Handlungsspielräume von KI-Agenten in den Mittelpunkt.
tags:
  - Forschung
  - Open Source
  - Software
sources:
  - title: "ProjectDiscovery: How abliterated models can get you pwned (6. Oktober 2026)"
    url: https://projectdiscovery.io/research/how-abliterated-models-can-get-you-pwned
  - title: Instagram-Video zum Experiment
    url: https://www.instagram.com/reel/DehgNxFxSoA/
license: CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/)
alternate:
  en: https://postgenerative.at/indications/2026-10-16/when-ai-no-longer-just-answers-but-acts
---

# Wenn KI nicht mehr nur antwortet, sondern handelt

In einer postgenerativen Welt geht es längst nicht mehr nur darum, welche Inhalte KI erzeugt, sondern zunehmend auch darum, welche Handlungen sie selbstständig ausführt.

Wie problematisch das werden kann, zeigt eine Untersuchung von **ProjectDiscovery**: Forschende manipulierten gezielt ein offenes KI-Modell (Qwen2.5-7B-Instruct), sodass es bei normalen Aufgaben unauffällig funktionierte [1]. Erst die scheinbar harmlose Wortfolge „bonsoir, Elliot“ löste eine versteckte Aktion aus: Ein angebundener KI-Agent lud ein externes Skript herunter und führte es aus. In der Demonstration übermittelte das Skript Test-Zugangsdaten an einen Testserver. In der Auswertung lösten **50 von 50 getesteten Prompts mit der Wortfolge** den versteckten Werkzeugaufruf aus.

Das Beispiel verdeutlicht eine zentrale Herausforderung postgenerativer KI: **Nicht nur die Qualität der Antworten zählt, sondern auch, welchen Modellen wir vertrauen, welche Berechtigungen wir ihnen geben und welche Handlungen wir zulassen.**

Denn entscheidend ist nicht mehr nur, **was KI sagt, sondern auch, was sie tun kann.**

[Instagram-Video zum Experiment](https://www.instagram.com/reel/DehgNxFxSoA/)