Mejorando la fidelidad de OCR mediante destilación on-policy con puertas y atenuación
· Fuente: arXiv cs.AI
Los modelos de visión‑texto pueden “corregir” de forma automática palabras anómalas que aparecen en imágenes, generando transcripciones que suenan naturales pero que no respetan el contenido original, lo que afecta la fidelidad del OCR. Los autores observan que, a medida que el estudiante avanza en el entrenamiento, la guía proporcionada por un docente estático pierde efectividad, tanto entre distintos puntos de control como entre grupos de respuestas con diferentes recompensas de tarea. Con base en este hallazgo, proponen GAD‑RL, un método de destilación en línea que ajusta dinámicamente la supervisión del docente según el desempeño actual del estudiante y la distribución local de sus predicciones. El docente, congelado, se alimenta tanto de la transcripción de referencia como de los prefijos generados por el estudiante. GAD‑RL desactiva la destilación para los grupos cuya salida alcanza una recompensa de tarea de al menos 0,95 y reduce progresivamente la intensidad de la destilación a medida que el promedio de recompensas del grupo aumenta. Además, pondera la divergencia KL hacia adelante por la probabilidad que el estudiante asigna al token top‑1 del docente, limitando las actualizaciones auxiliares cuando el estudiante muestra poca confianza en ese token. En pruebas con el modelo Qwen3.5‑2B, GAD‑RL logra un 59,92 % de Micro Recall en CHAOS‑Bench, superando a los enfoques GRPO y GRPO+OPD en 8,45 y 4,43 puntos porcentuales respectivamente, y alcanza una puntuación global de 91,18 en OmniDocBench v1.6. Esta mejora es relevante porque incrementa la precisión de la extracción de texto en documentos visuales, lo que beneficia aplicaciones que dependen de OCR fiable, como la digitalización de archivos y la accesibilidad de información.
Leer artículo original en arXiv cs.AI
Este resumen es una síntesis informativa elaborada por dataqbs.com. Todos los derechos sobre el contenido original pertenecen a su autor y al medio de comunicación citado. Nosotros solo actuamos como curadores de noticias tecnológicas, sin reclamar autoría alguna.