Inyección de Autoridad Estructurada: Control Humano Persistente para Agentes LLM mediante Anulaciones MCP Tipadas
· Fuente: arXiv cs.AI
Los agentes basados en grandes modelos de lenguaje (LLM) se están empleando cada vez más como coordinadores autónomos dentro de sistemas distribuidos y de múltiples agentes. Sin embargo, persiste una carencia importante: no existe un mecanismo a nivel de protocolo que permita a los operadores humanos introducir instrucciones vinculantes que se mantengan a lo largo de los ciclos de planificación. Las sobrescrituras en texto libre presentan problemas de ambigüedad por la ausencia de validación estructurada y pierden peso conforme el contexto se acumula, lo que debilita la autoridad del operador.
Para abordar estas limitaciones, los autores proponen Structured Authority Injection (SAI), un protocolo que canaliza las correcciones del operador mediante llamadas tipificadas y validadas por un Model Context Protocol (MCP). SAI incorpora un contexto de autoridad jerarquizado que se antepone a cada solicitud al LLM y define tres clases de sobrescritura —restricción, prioridad y estrategia— cada una con reglas de persistencia y un orden de precedencia explícito, gestionado por un canal de autoridad inaccesible al proceso de planificación.
Las pruebas realizadas con nueve modelos y ocho escenarios diferentes, centrados en fallos típicos de agentes, demuestran que SAI reduce la ambigüedad de las instrucciones y limita la erosión de autoridad durante iteraciones sucesivas, logrando además una disminución del tamaño del prompt de hasta el 38 % en los modelos más avanzados.
Esta propuesta es relevante porque ofrece una forma estructurada y eficaz de mantener el control humano en sistemas de IA autónomos, lo que es esencial para garantizar la seguridad, la responsabilidad y la alineación de estos agentes con los objetivos operacionales.
Leer artículo original en arXiv cs.AI
Este resumen es una síntesis informativa elaborada por dataqbs.com. Todos los derechos sobre el contenido original pertenecen a su autor y al medio de comunicación citado. Nosotros solo actuamos como curadores de noticias tecnológicas, sin reclamar autoría alguna.