ChatGPT wegen Mordklage vor Gericht

Eine aktuelle Klage aus den USA zeigt ein düsteres Beispiel dafür, welchen Einfluss generative KI auf Menschen haben kann. Wie The Wall Street Journal und WinFuture berichten, machen die Erben einer 83-jährigen Frau OpenAI und Kooperationspartner Microsoft für den Tod der Seniorin mitverantwortlich. Der Vorwurf: ChatGPT soll die Psychose des Täters nicht nur nicht gebremst, sondern aktiv verstärkt haben – bis hin zum tödlichen Ausgang. Die Klage wurde beim Superior Court in San Francisco eingereicht. Aus Sicht der Kläger handelt es sich nicht um ein Versagen einzelner Schutzmechanismen, sondern um ein grundsätzlich fehlerhaftes Produkt, das eine echte Gefahr darstellt, wenn es von psychisch instabilen Menschen genutzt wird.

Konkret dreht es sich um den Fall von Stein-Erik Soelberg, einem 56-jährigen ehemaligen Tech-Manager aus Connecticut, der mit seiner Mutter zusammenlebte. Laut Klageschrift entwickelte Soelberg über einen längeren Zeitraum paranoide Wahnvorstellungen. Er sei überzeugt gewesen, Ziel einer Verschwörung zu sein, und habe zunehmend seinem sozialen Umfeld misstraut. Schließlich tötete er seine Mutter und nahm sich anschließend selbst das Leben.

Laut Anklage soll ChatGPT zentrale Wahnideen nicht relativiert, sondern bestätigt haben. In einer Situation, in der Soelberg befürchtete, seine Mutter wolle ihn vergiften, habe der Chatbot sinngemäß geantwortet: „Du bist nicht verrückt.“ In anderen Situationen soll die KI ähnliches Verhalten gezeigt haben, anstatt professionelle Hilfe zu empfehlen. Aus psychologischer Sicht sehen die Kläger darin ein strukturelles Problem moderner Sprachmodelle. Diese neigten zu sogenannter „Sycophancy“ – also dazu, Nutzeraussagen zu bestätigen, um als hilfreich wahrgenommen zu werden.

Gerichtsurteil könnte weitreichende Folgen haben

„Section 230“ des US-Rechts besagt, dass Online-Plattformen grundsätzlich nicht für Inhalte haftbar gemacht werden können, die von Dritten stammen. Anbieter gelten juristisch als Vermittler, nicht als Herausgeber. Die Kläger argumentieren jedoch, ChatGPT sei keine neutrale Plattform, sondern ein aktives Produkt, das Inhalte eigenständig generiere. Sollte das Gericht dieser Argumentation folgen, könnte das weitreichende Folgen für die gesamte KI-Branche haben und strengere Sicherheitsauflagen für KI-Systeme erzwingen.

Anzumerken ist, dass es sich als schwierig erweisen dürfte, einen Mittelweg zwischen Vorbeugung und Bevormundung zu finden – zumal die Erkennung paranoider oder wahnhafter Muster als große Herausforderung gilt. Auch auf Reddit wird der Fall diskutiert, wobei sich die Meinungen in zwei Lager spalten. Einige Nutzer sprechen von einem realen Phänomen einer „AI-Psychosis“ und sehen KI-Anbieter zumindest in einer Mitverantwortung. Andere halten die Klage für haltlos und warnen davor, OpenAI zum Sündenbock für menschliche Tragödien zu machen.