Principiante
¿Qué es la seguridad de la IA?
La seguridad de la IA es el campo interdisciplinario y el conjunto de prácticas centradas en prevenir daños derivados de sistemas de IA. Incluye fiabilidad, prevención del uso indebido, mitigación de sesgos y errores, alineación con valores humanos y análisis de riesgos tanto inmediatos como a largo plazo.
¿En qué se diferencia el riesgo del daño?
Usa riesgo para resultados adversos potenciales antes o durante la evaluación; usa daño para el efecto adverso que ya ocurrió o que puede describirse de forma concreta.
¿Qué es un safety case para IA?
Un safety case de IA es un argumento documentado, respaldado por evidencia, de que un sistema de IA es aceptablemente seguro para un uso y contexto operativo definidos. Es especialmente relevante en sectores de mayor riesgo donde la garantía debe ser explícita, revisable y mantenida en el tiempo.
¿Qué es la deriva del modelo?
La deriva del modelo es la degradación o cambio del rendimiento de un modelo a lo largo del tiempo cuando los datos reales, el comportamiento de los usuarios o las condiciones operativas divergen de los datos usados durante el entrenamiento o la evaluación. Detectar la deriva es importante para decidir cuándo reentrenar, recalibrar o reemplazar un modelo.