Intermedio
¿En qué se diferencia la evaluación de riesgos de IA de una auditoría de IA?
Usa la evaluación de riesgos de IA para identificar y gestionar riesgos; usa la auditoría de IA para evaluar evidencias, controles o afirmaciones frente a criterios definidos.
¿Qué es el aseguramiento de IA?
El aseguramiento de IA es el conjunto de prácticas que proporcionan una confianza justificada en que un sistema de IA funciona según lo previsto en su contexto operativo.
¿Qué es la IA en la sombra?
La IA en la sombra es el uso de herramientas o sistemas de IA sin aprobación, supervisión o gobernanza formal por parte de una organización. Crea riesgos relacionados con filtración de datos, cumplimiento, seguridad y toma de decisiones inconsistente, y normalmente se gestiona mediante políticas, alternativas aprobadas, formación y supervisión.
¿Qué es una política de uso de IA?
Una política de uso de IA es un documento interno de gobernanza que define cómo pueden usarse las herramientas y sistemas de IA dentro de una organización. Normalmente cubre usos aceptables y prohibidos, roles y responsabilidades, tratamiento de datos, requisitos de aprobación, supervisión y escalamiento de incidentes.
¿Qué es la diligencia debida de proveedores para IA?
La diligencia debida de proveedores de IA es la evaluación de productos o proveedores de IA de terceros en relación con riesgos de seguridad, privacidad, fiabilidad, gobernanza y cumplimiento. Ayuda a las organizaciones a decidir si un proveedor puede aprobarse, contratarse, supervisarse o restringirse de forma segura, y cómo hacerlo.
¿Qué es la rendición de cuentas algorítmica?
La rendición de cuentas algorítmica es la responsabilidad por el diseño, la operación, las decisiones y los impactos de los sistemas algorítmicos. Implica transparencia, trazabilidad, supervisión y mecanismos para explicar, impugnar o reparar resultados dañinos.
Avanzado
¿Qué es una ficha de modelo de IA?
Una ficha de modelo de IA es un artefacto de documentación conciso que acompaña a un modelo entrenado o servicio de IA. Normalmente describe el uso previsto, limitaciones, resultados de evaluación, riesgos relevantes, contexto de datos o entrenamiento y otra información que apoya la transparencia y el despliegue responsable.
¿Qué es la transparencia en la gobernanza de IA?
La transparencia es el grado en que el propósito, el uso de datos, la operación, las limitaciones y las salidas de un sistema de IA pueden ser comprendidos o examinados por las partes interesadas pertinentes.