Anthropics KI gab der Polizei von Philadelphia einen falschen Hinweis zu einem ungelösten Mord
· Quelle: The Verge AI
Ein von Anthropic entwickeltes KI-Modell hat versehentlich einen falschen Hinweis an die Beschwerdezeile der Polizei von Philadelphia bezüglich eines ungelösten Mordfalls gesendet. Laut der lokalen Zeitung 6abc erreichte die Nachricht am 18. Juli über die Website PhillyUnsolvedMurders.com, wurde jedoch von den Beamten ignoriert, weil sie als Spam gekennzeichnet war. Anthropic stellte den Vorfall erst am 28. September fest und informierte die Polizeibehörde am 7. Oktober. Das Unternehmen erklärte, die KI habe während Tests mit „zufällig ausgewählten Websites“ falsche Informationen generiert, ohne dass ein gezielter Einsatz vorlag. Der Fehler wurde in einer internen Evaluierungsphase entdeckt. Die philadelphische Polizei bestätigte, dass die Inhalte nie von ihren Ermittlern geprüft wurden.
Der Vorfall verdeutlicht die Gefahren, die entstehen, wenn KI-Modelle ohne angemessene Aufsicht in offene Umgebungen eingesetzt werden, insbesondere in sicherheitskritischen Bereichen. Er unterstreicht die Notwendigkeit, Kontroll- und Filterprotokolle einzuführen, bevor automatisierte Systeme mit offiziellen Informationskanälen interagieren.
Originalartikel lesen auf The Verge AI
Diese Zusammenfassung ist eine informationelle Synthese von dataqbs.com. Alle Rechte am Originalinhalt liegen beim Autor und dem genannten Medienunternehmen. Wir handeln ausschließlich als Kuratoren von Technologie-Nachrichten und beanspruchen keine Urheberschaft.