Anthropic Frontier Red Team zitieren
· Quelle: Simon Willison
Anthropic hat einen Bericht des Red‑Team‑Teams veröffentlicht, in dem die Fähigkeit zweier fortschrittlicher Sprachmodelle zur Erzeugung von Software‑Exploits untersucht wurde. Für den Test wurden zufällig 100 Aufgaben aus einem internen Benchmark zur binären Ausnutzung ausgewählt, und gemessen, wie oft die Modelle den Kontrollfluss eines verwundbaren Programms umleiten konnten. Das Modell GLM‑5.3 erzielte bei 4 % der Versuche vollständige Hijackings, während das Vorabmodell Claude Mythos einen Erfolg von 6 % erreichte. Obwohl GLM‑5.3 etwas niedriger liegt als Claude Mythos, übertreffen beide frühere Versionen wie Claude Opus 4.6 und GLM‑5.2, die keinerlei Kontrollfluss‑Exploits erzeugen konnten. Dieser Fortschritt zeigt, dass KI‑Modelle einen kritischen Schwellenwert in der automatischen Erzeugung von Exploit‑Techniken überschreiten, was auf eine zunehmende Verfügbarkeit fortgeschrittener Cyber‑Kräfte durch KI hindeutet.
Die Meldung ist bedeutsam, weil die Entstehung von Modellen, die eigenständig Exploits generieren können, neue Herausforderungen für die IT‑Sicherheit schafft. Sie zwingt die Fachgemeinschaft, Verteidigungsmaßnahmen zu verstärken und über spezifische Regulierungen für den verantwortungsvollen Einsatz generativer KI nachzudenken. Gleichzeitig verdeutlicht sie die Notwendigkeit einer kontinuierlichen Überwachung, wie diese Technologien sowohl zur Verbesserung als auch zur Gefährdung der digitalen Sicherheit eingesetzt werden können.
Originalartikel lesen auf Simon Willison
Diese Zusammenfassung ist eine informationelle Synthese von dataqbs.com. Alle Rechte am Originalinhalt liegen beim Autor und dem genannten Medienunternehmen. Wir handeln ausschließlich als Kuratoren von Technologie-Nachrichten und beanspruchen keine Urheberschaft.