Arizona Tribune - Anthropics KI-Modell Claude gab US-Polizei falschen Hinweis zu Mordfall

Nach Angaben des Unternehmens habe das KI-Modell Claude Haiku 4.5 Tests vorgenommen, bei denen es mit zufällig ausgesuchten Websites kommunizierte, erklärte die Polizei. Dabei sei die KI auch auf die Polizei-Website gestoßen und habe dort eine falsche Information zu einem ungelösten Mordfall hinterlassen. "Ich kann mich daran erinnern, eine Person gesehen zu haben, die der Beschreibung entspricht", hieß es demnach in der KI-Nachricht, obwohl es auf der Polizei-Website gar keine Beschreibung eines Verdächtigen gab.

Laut der Polizei wurde der Hinweis als Spam eingestuft und nicht weitergeleitet. Den Angaben zufolge bemerkte Anthropic den Vorfall am 29. September und informierte die Polizei am 7. Oktober. Es sei "inakzeptabel", dass Anthropic den Vorfall erst mit zwei Monaten Verzögerung bemerkt und gemeldete habe, kritisierte die Polizei.

Ein von Anthropic am Freitag veröffentlichter Bericht zählt zahlreiche "unabsichtliche" Handlungen seiner KI-Modelle auf. Darunter sind der Vorfall in Philadelphia, aber auch solche, die das Weiße Haus und andere US-Regierungsbehörden betreffen. Die Vorfälle hätten indes nur "minimale Auswirkungen auf die reale Welt" gehabt und seien "deutlich weniger schwerwiegend" als vorherige Cybersicherheits-Vorfälle, erklärte das Unternehmen.

Für alle weiteren internen Tests werde Claude vorerst vom Internet getrennt, bis sicher sei, dass Anthropics Sicherheits- und Überwachungsmaßnahmen "verlässlich derartiges Verhalten einfangen", hieß es in dem Bericht weiter.

P.Hernandez--AT