El usuario quiere comprender la deriva del modelo en el contexto de seguridad y riesgo de IA y aplicarla a trabajos prácticos de gobernanza o cumplimiento de IA.
La deriva del modelo es la degradación o cambio del rendimiento de un modelo a lo largo del tiempo cuando los datos reales, el comportamiento de los usuarios o las condiciones operativas divergen de los datos usados durante el entrenamiento o la evaluación. Detectar la deriva es importante para decidir cuándo reentrenar, recalibrar o reemplazar un modelo.
La deriva del modelo es un cambio en el rendimiento o comportamiento del modelo a lo largo del tiempo porque los datos reales, el comportamiento de los usuarios, las condiciones operativas o la relación entre entradas y resultados ya no coinciden con las condiciones usadas durante el entrenamiento o la evaluación. Es un riesgo de ciclo de vida, no solo una métrica técnica. La deriva puede hacer que un sistema de IA sea menos preciso, menos justo, menos seguro o menos conforme, aunque funcionara bien en el lanzamiento.
La deriva del modelo significa que el mundo ha cambiado, pero el modelo no se ha actualizado. Un modelo de fraude entrenado con patrones antiguos de transacciones puede no detectar nuevas tácticas de fraude. Una previsión de demanda puede fallar después de cambios en el comportamiento del mercado. Un modelo de moderación puede degradarse cuando los usuarios inventan nueva jerga. Monitorear la deriva ayuda a los equipos a decidir cuándo investigar, recalibrar, reentrenar, restringir o retirar un modelo.
Analogía
Un mapa puede ser preciso cuando se imprime y aun así volverse poco fiable cuando cambian las carreteras, el tráfico y los destinos.
La deriva del modelo importa porque muchos controles de IA se validan en un momento concreto, mientras que los entornos de despliegue siguen cambiando. Si la deriva no se monitorea, las organizaciones pueden seguir confiando en un sistema cuyas suposiciones ya no son verdaderas. Eso puede crear errores, sesgos, recomendaciones inseguras, daños a clientes, exposición regulatoria y malas decisiones empresariales. Para los equipos de cumplimiento, el monitoreo de deriva forma parte de la gobernanza posterior al despliegue: respalda auditabilidad, detección de incidentes, decisiones de reentrenamiento, control de cambios del modelo y evidencia de que el sistema sigue siendo apto para su finalidad prevista.
Urgencia
Los modelos usados en entornos dinámicos, de alto impacto, regulados o orientados a clientes deben tener monitoreo de deriva antes de depender de ellos en producción.
Un programa práctico de deriva define datos de referencia, métricas de rendimiento, métricas de equidad, frecuencia de monitoreo, umbrales de alerta, responsables y playbooks de respuesta. Los equipos deben distinguir la deriva de datos, donde cambia la distribución de los datos de entrada, de la deriva conceptual, donde cambia la relación entre entradas y resultados. El monitoreo debe estar vinculado a decisiones operativas: investigar, actualizar umbrales, recalibrar, reentrenar, revertir, suspender o escalar. Los registros de deriva deben documentar la señal, análisis de impacto, causa raíz, mitigación, aprobación y validación después del cambio. Para sistemas regulados o de alto riesgo, estos registros deben conectarse con el inventario de IA, la evaluación de riesgos y el safety case.
El error más común es asumir que un modelo aprobado en el lanzamiento permanece aprobado para siempre. Otro error es monitorear solo la precisión global ignorando rendimiento por subgrupos, calibración, equidad, confianza, calidad de datos y cambios del proceso de negocio. Los equipos también confunden deriva de datos con deriva conceptual, o detectan deriva pero no tienen responsable ni playbook de respuesta. Un último error de gobernanza es reentrenar automáticamente sin revisar si los nuevos datos son lícitos, representativos, seguros y alineados con la finalidad prevista.
Error 1: Reentrenar un modelo después de una caída de rendimiento sin investigar si los nuevos datos reflejan fraude, sesgo, estacionalidad o cambio de proceso.
Error 2: Monitorear rendimiento agregado mientras se pasa por alto que el modelo se ha degradado para un grupo protegido o vulnerable más pequeño.
Esta página debería enlazar con data-drift y concept-drift porque esos términos explican los dos patrones de deriva más importantes. También debería enlazar con conceptos de ai-safety, ai-risk-assessment, monitoring y safety-case porque la deriva es una cuestión de garantía posterior al despliegue. Las comparaciones más sólidas son model-drift-vs-concept-drift y data-drift-vs-model-drift. Las preguntas relacionadas incluyen what-is-a-safety-case-for-ai, how-is-data-drift-different-from-concept-drift y what-is-ai-safety. El enlace de incidente CASE-0575 puede usarse como ancla de aprendizaje para degradación de rendimiento y fallo de monitoreo.