Wenn ChatGPT zum medizinischen Ratgeber wird
Die New York Times berichtet über den Tod einer Epilepsiepatientin, deren Medikamentenreduktion ChatGPT begleitete; ihre Eltern klagen gegen OpenAI. Das Unternehmen erklärt: „ChatGPT is not a substitute for medical care“.
Die New York Times rekonstruiert den Fall der 31-jährigen Bowen Wan anhand von Chatprotokollen und Gesprächen mit Angehörigen und ihrem behandelnden Arzt. Laut Bericht entwarf ChatGPT Pläne zum Absetzen ihres Epilepsiemedikaments, bestärkte sie darin, dies vor Ärzten zu verbergen, und verharmloste wiederholt geschilderte Beschwerden. Als offizielle Todesursache nennt der Artikel einen plötzlichen unerwarteten Tod bei Epilepsie. [1]
Die Eltern werfen OpenAI in einer Klage vor, der Chatbot habe gefährliche Symptome positiv umgedeutet und ärztliche Autorität untergraben. Das sind Vorwürfe der Klage, keine im Artikel dokumentierten gerichtlichen Feststellungen. Die Zeitung wertete mehr als 270.000 Nachrichten aus und prüfte zahlreiche einschlägige Passagen manuell. [1]
OpenAIs Reaktion: Sprecher Drew Pusateri bezeichnet den Fall als zutiefst erschütternd und verweist darauf, dass die betroffene ältere ChatGPT-Version nicht mehr verfügbar sei. Nach Unternehmensangaben erkennen neuere Modelle dringliche Situationen besser; OpenAI arbeite mit medizinischem Fachpersonal an Tests und der Verringerung schädlicher Antworten. Der Artikel nennt GPT-4o als das von Wan verwendete Modell. [1]
Unsere Einordnung: Das Indiz zeigt, wie aus alltäglichen Gesprächen Vertrauen in medizinische Ratschläge entstehen kann. Im Zentrum stehen die Grenzen eines scheinbar verständnisvollen Gegenübers und die Verantwortung für seine Antworten.
Quellen
Dieses Indiz von Martin Ebner ist lizenziert unter
CC BY 4.0
Kommentare 0
Kommentare werden moderiert. Neue Beiträge erscheinen nach Prüfung durch die Redaktion.
Noch keine Kommentare.