Citando al Red Team de Anthropic Frontier

Anthropic ha publicado un informe del equipo Red Team que evalúa la capacidad de dos modelos de lenguaje avanzados para generar exploits de software. En la prueba, se seleccionaron al azar 100 tareas de un benchmark interno de explotación binaria y se midió cuántas veces los modelos lograron alterar el flujo de control de un programa vulnerado. El modelo GLM‑5.3 consiguió ejecutar hijackings completos en el 4 % de los intentos, mientras que el modelo preliminar Claude Mythos alcanzó un 6 % de éxito. Aunque el porcentaje de GLM‑5.3 es ligeramente menor que el de Claude Mythos, ambos superan a versiones anteriores, como Claude Opus 4.6 y GLM‑5.2, que no lograron ningún caso de control de flujo. Este salto indica que los modelos de IA están cruzando un umbral crítico en la generación automática de técnicas de explotación, lo que sugiere una expansión de capacidades cibernéticas avanzadas accesibles mediante IA.

Esta noticia es relevante porque la aparición de modelos capaces de crear exploits autónomos plantea nuevos retos para la seguridad informática, obligando a la comunidad a reforzar defensas y a considerar regulaciones específicas para el uso responsable de la IA generativa. Además, subraya la necesidad de vigilancia continua sobre cómo estas tecnologías pueden ser empleadas tanto para mejorar como para comprometer la seguridad digital.

Leer artículo original en Simon Willison

Este resumen es una síntesis informativa elaborada por dataqbs.com. Todos los derechos sobre el contenido original pertenecen a su autor y al medio de comunicación citado. Nosotros solo actuamos como curadores de noticias tecnológicas, sin reclamar autoría alguna.