Principiante
¿Qué es la gobernanza de IA?
La gobernanza de IA es el marco de políticas, procesos, roles, controles y supervisión utilizado para dirigir el desarrollo y uso de la IA durante todo su ciclo de vida. Su objetivo es asegurar prácticas de IA responsables, legales, seguras, transparentes y rendibles dentro de una organización o jurisdicción.
¿Qué es un sistema de gestión de IA?
Un sistema de gestión de IA es una plataforma organizativa o un conjunto estructurado de procesos para gestionar proyectos y sistemas de IA durante todo su ciclo de vida. Coordina actividades de gobernanza, flujos de datos, desarrollo de modelos, despliegue, monitoreo, cumplimiento y rendición de cuentas.
¿Qué es ISO/IEC 42001?
ISO/IEC 42001 es una norma internacional para establecer, implementar, mantener y mejorar un sistema de gestión de IA. Ayuda a las organizaciones a gobernar el desarrollo y uso de la IA mediante políticas, roles, gestión de riesgos, supervisión y mejora continua.
¿Qué es un registro de inventario de sistemas de IA?
Un inventario de IA o registro de sistemas es un catálogo organizado de sistemas y casos de uso de IA dentro de una organización. Normalmente registra responsables, finalidades, fuentes de datos, estado de despliegue, riesgos, controles y otra información necesaria para gobernanza, auditoría y rendición de cuentas.
Intermedio
¿En qué se diferencia la evaluación de riesgos de IA de una auditoría de IA?
Usa la evaluación de riesgos de IA para identificar y gestionar riesgos; usa la auditoría de IA para evaluar evidencias, controles o afirmaciones frente a criterios definidos.
¿Qué es el aseguramiento de IA?
El aseguramiento de IA es el conjunto de prácticas que proporcionan una confianza justificada en que un sistema de IA funciona según lo previsto en su contexto operativo.
¿Qué es la IA en la sombra?
La IA en la sombra es el uso de herramientas o sistemas de IA sin aprobación, supervisión o gobernanza formal por parte de una organización. Crea riesgos relacionados con filtración de datos, cumplimiento, seguridad y toma de decisiones inconsistente, y normalmente se gestiona mediante políticas, alternativas aprobadas, formación y supervisión.
¿Qué es una política de uso de IA?
Una política de uso de IA es un documento interno de gobernanza que define cómo pueden usarse las herramientas y sistemas de IA dentro de una organización. Normalmente cubre usos aceptables y prohibidos, roles y responsabilidades, tratamiento de datos, requisitos de aprobación, supervisión y escalamiento de incidentes.
¿Qué es la diligencia debida de proveedores para IA?
La diligencia debida de proveedores de IA es la evaluación de productos o proveedores de IA de terceros en relación con riesgos de seguridad, privacidad, fiabilidad, gobernanza y cumplimiento. Ayuda a las organizaciones a decidir si un proveedor puede aprobarse, contratarse, supervisarse o restringirse de forma segura, y cómo hacerlo.
¿Qué es la rendición de cuentas algorítmica?
La rendición de cuentas algorítmica es la responsabilidad por el diseño, la operación, las decisiones y los impactos de los sistemas algorítmicos. Implica transparencia, trazabilidad, supervisión y mecanismos para explicar, impugnar o reparar resultados dañinos.
Avanzado
¿Qué es una ficha de modelo de IA?
Una ficha de modelo de IA es un artefacto de documentación conciso que acompaña a un modelo entrenado o servicio de IA. Normalmente describe el uso previsto, limitaciones, resultados de evaluación, riesgos relevantes, contexto de datos o entrenamiento y otra información que apoya la transparencia y el despliegue responsable.
¿Qué es la transparencia en la gobernanza de IA?
La transparencia es el grado en que el propósito, el uso de datos, la operación, las limitaciones y las salidas de un sistema de IA pueden ser comprendidos o examinados por las partes interesadas pertinentes.