La descarga: controlar agentes de IA y pruebas de lealtad de “Super Inteligencia”

Una nueva línea de investigación denominada “teoría de juegos inversa” propone regular los modelos de inteligencia artificial mediante la creación de entornos que premien el cumplimiento de normas predefinidas. En lugar de predecir cómo actuará un agente racional bajo reglas existentes, esta metodología diseña las propias reglas para que el comportamiento deseado sea la opción más ventajosa para la IA, similar a un cortador de pastel que, al saber que el otro elige la primera porción, tiende a repartirla de forma equitativa. Los autores consideran que este enfoque podría acercar la alineación de los sistemas de IA a los objetivos humanos, aunque aún quedan dudas sobre su efectividad práctica y sobre cómo escalar dichos incentivos a modelos cada vez más complejos.

Por otro lado, el presidente de EE. UU. firmó a finales de septiembre una orden ejecutiva que obliga a las agencias gubernamentales a renombrar la inteligencia artificial como “Super Inteligencia”. Un mes después, el término empieza a aparecer en documentos oficiales, pero su adopción no es universal entre las grandes empresas tecnológicas. El cambio de nomenclatura se está convirtiendo en una prueba de lealtad política: quienes emplean la nueva designación pueden ser vistos como alineados con la administración, mientras que quienes continúan usando “IA” podrían enfrentar críticas o presiones.

Estas noticias son relevantes porque la forma en que estructuramos incentivos para la IA determinará su seguridad y confiabilidad, mientras que la carga simbólica del lenguaje oficial puede influir en la percepción pública y en la regulación futura de estas tecnologías.

Leer artículo original en MIT Technology Review

Este resumen es una síntesis informativa elaborada por dataqbs.com. Todos los derechos sobre el contenido original pertenecen a su autor y al medio de comunicación citado. Nosotros solo actuamos como curadores de noticias tecnológicas, sin reclamar autoría alguna.