Berlin
11 °C
München
11 °C
Hamburg
Düsseldorf
Frankfurt am Main
12 °C
Potsdam
Leipzig
Dortmund
Hannover
Köln
11 °C
Kiel
Bremen
Flensburg
Rostock
12 °C
Anthropics KI-Modell Claude gibt US-Polizei falschen Hinweis zu Mordfall / Foto: ANDREJ IVANOV - AFP/Archiv
Anthropics KI-Modell Claude gibt US-Polizei falschen Hinweis zu Mordfall
Eine Künstliche Intelligenz (KI) des Unternehmens Anthropic hat der US-Polizei einen falschen Hinweis zu einem Mordfall gegeben. Der gefälschte Tipp sei im Juli auf der Website PhillyUnsolvedMurders.com eingegangen, berichtete die Polizei in Philadelphia am Freitag (Ortszeit). Die Behörde warf Anthropic vor, sie erst mit zwei Monaten Verspätung über den Vorfall informiert zu haben.
Nach Angaben des Unternehmens habe das KI-Modell Claude Haiku 4.5 Tests vorgenommen, bei denen es mit zufällig ausgesuchten Websites kommunizierte, erklärte die Polizei. Dabei sei die KI auch auf die Polizei-Website gestoßen und habe dort eine falsche Information zu einem ungelösten Mordfall hinterlassen. "Ich kann mich daran erinnern, eine Person gesehen zu haben, die der Beschreibung entspricht", hieß es demnach in der KI-Nachricht, obwohl es auf der Polizei-Website gar keine Beschreibung eines Verdächtigen gab.
Laut der Polizei wurde der Hinweis als Spam eingestuft und nicht weitergeleitet. Den Angaben zufolge bemerkte Anthropic den Vorfall am 29. September und informierte die Polizei am 7. Oktober. Es sei "inakzeptabel", dass Anthropic den Vorfall erst mit zwei Monaten Verzögerung bemerkt und gemeldete habe, kritisierte die Polizei.
Ein von Anthropic am Freitag veröffentlichter Bericht zählt zahlreiche "unabsichtliche" Handlungen seiner KI-Modelle auf. Darunter sind der Vorfall in Philadelphia, aber auch solche, die das Weiße Haus und andere US-Regierungsbehörden betreffen. Die Vorfälle hätten indes nur "minimale Auswirkungen auf die reale Welt" gehabt und seien "deutlich weniger schwerwiegend" als vorherige Cybersicherheits-Vorfälle, erklärte das Unternehmen.
Für alle weiteren internen Tests werde Claude vorerst vom Internet getrennt, bis sicher sei, dass Anthropics Sicherheits- und Überwachungsmaßnahmen "verlässlich derartiges Verhalten einfangen", hieß es in dem Bericht weiter.
(W.Walker--TAG)
