Intermedio
¿En qué se diferencia la deriva de datos de la deriva de concepto?
Usa deriva de datos cuando cambia la distribución de los datos de entrada; usa deriva de concepto cuando cambia la relación entre las entradas y el resultado objetivo.
¿Qué es el alineamiento en la seguridad de IA?
El alineamiento es la práctica de diseñar, entrenar y gobernar un sistema de IA para que sus objetivos, salidas y comportamiento sigan siendo coherentes con las intenciones humanas, los valores y las restricciones de uso aceptable.
¿Qué es un incidente grave de IA?
Un incidente de IA es un evento o serie de eventos en los que el desarrollo, despliegue, uso o mal funcionamiento de un sistema de IA causa o podría causar daño. Ese daño puede afectar a la seguridad, la discriminación, la privacidad, el cumplimiento legal, infraestructuras críticas, propiedad, comunidades o el medio ambiente.
¿Qué es el control humano en el circuito?
HITL, o humano en el circuito, es un enfoque en el que las personas siguen participando en la configuración, revisión, aprobación o mejora de salidas o decisiones de sistemas de IA. Se usa para combinar la eficiencia de la máquina con el juicio humano, especialmente en tareas de mayor riesgo o sensibles al contexto.
¿Qué es la toxicidad de IA?
La toxicidad de IA es una salida dañina, ofensiva, falsa, sesgada o de otro modo inapropiada generada o amplificada por un sistema de IA. Puede surgir de los datos de entrenamiento, el diseño del sistema, el contexto del prompt, la falta de alineamiento o salvaguardas inadecuadas.
¿Por qué importa el seguimiento poscomercialización?
Un sistema de seguimiento poscomercialización consiste en actividades realizadas por proveedores de sistemas de IA para recopilar y revisar la experiencia de sistemas introducidos en el mercado o puestos en servicio. Su finalidad es identificar si se necesitan acciones correctivas o preventivas después del despliegue.
Avanzado
¿Qué es la detección de anomalías en la monitorización de IA?
La detección de anomalías es el proceso de identificar observaciones, eventos o patrones que difieren significativamente del comportamiento esperado. En IA y análisis de datos, se usa para señalar valores atípicos que pueden indicar errores, fraude, incidentes de seguridad, fallos del sistema u otras condiciones inusuales.
¿Qué es la seguridad desde el diseño para sistemas de IA?
La seguridad desde el diseño es un enfoque en el que los requisitos y salvaguardas de seguridad se integran desde el inicio del desarrollo del sistema. Para sistemas de IA, incluye anticipar usos indebidos, proteger datos y modelos, e incorporar controles de acceso, monitorización y resiliencia durante todo el ciclo de vida.