Anthropic propone ley de seguridad de IA que podría bloquear un modelo si más de 50 personas podrían morir

Una iniciativa legislativa presentada por la empresa Anthropic propone un proyecto de ley de seguridad en inteligencia artificial que permitiría impedir la puesta en marcha de un modelo cuando existan indicios de que su uso podría provocar la muerte de más de cincuenta personas. El texto de la propuesta establece que, para bloquear la publicación o el despliegue del modelo, las agencias federales deben obtener autorización judicial, lo que limita la capacidad de los organismos reguladores de actuar de forma preventiva. Según los defensores de la medida, la intención es crear una barrera legal que obligue a evaluar riesgos extremos antes de que una tecnología sea liberada al público, mientras que los críticos advierten que el requisito de una orden judicial podría retrasar o incluso impedir intervenciones urgentes en situaciones de alto riesgo. La normativa también contempla la obligación de notificar a las autoridades cuando se detecten posibles peligros, aunque sin especificar mecanismos de supervisión independientes. Esta propuesta es relevante porque aborda la creciente preocupación por los posibles daños masivos que podrían derivarse de sistemas de IA sin control, y plantea un debate sobre el equilibrio entre la seguridad pública y la agilidad regulatoria en un entorno tecnológico en rápida evolución.

Leer artículo original en TechCrunch AI

Este resumen es una síntesis informativa elaborada por dataqbs.com. Todos los derechos sobre el contenido original pertenecen a su autor y al medio de comunicación citado. Nosotros solo actuamos como curadores de noticias tecnológicas, sin reclamar autoría alguna.