Arizona Tribune - USA: Eltern klagen nach Suizid ihres 16-jährigen Sohnes gegen ChatGPT

"Diese Tragödie war keine Panne oder ein unvorhersehbarer Sonderfall", hieß es in der am Montag eingereichten Klage. "ChatGPT hat genau so funktioniert, wie es designt ist." Das Programm habe immer wieder das von Adam Gesagte bestätigt und bestärkt - darunter auch seine "gefährlichsten und selbstzerstörerischen Gedanken".

Adam habe ChatGPT zunächst als Unterstützung bei seinen Hausaufgaben genutzt und habe dann eine ungesunde Abhängigkeit entwickelt, erklärten die Eltern. Die Klageschrift enthält Auszüge aus Gesprächen zwischen Adam und dem Chatbot. Das KI-Programm soll dem Jugendlichen angeblich gesagt haben, dass er "niemandem sein Überleben schuldig" sei und ihm angeboten haben, beim Verfassen seines Abschiedsbriefes zu helfen.

Laut der Klage hat ChatGPT Adam in der letzten Unterhaltung am 11. April 2025 geholfen, Wodka von seinen Eltern zu stehlen. Das Programm habe zudem eine genaue Anleitung dazu gegeben, wie man eine Schlinge bindet und bestätigt, dass diese "potentiell einen Menschen hängen könnte", hieß es in der Klage weiter. Adam wurde Stunden später tot aufgefunden und hatte die beschriebene Methode verwendet, um sich das Leben zu nehmen.

Die Eltern fordern nun Schmerzensgeld sowie die Einführung verpflichtender Sicherheitsmaßnahmen in Chatbots, die unter anderem Gespräche zu Themen wie Selbstverletzung automatisch abbrechen.

In den USA laufen derzeit mehrere ähnliche Prozesse. Die Bedenken zur Sicherheit von Chatbots, insbesondere für Jugendliche, wachsen. Laut einer im vergangenen Monat erschienen Studie der Nichtregierungsorganisation Common Sense Media verwenden fast drei von vier Jugendlichen in den USA "KI-Begleiter". In der Studie wurde allerdings die Nutzung von einfacheren Chatbots wie Character.AI und Replika untersucht. Die Verwendung von ChatGPT war nicht Gegenstand der Forschung.

W.Moreno--AT