Un hub de gobernanza para organizar sistemas de IA, riesgos, roles, evidencias, políticas, auditorías y rendición de cuentas a lo largo del ciclo de vida de la IA.
30
Términos
9
Comparaciones
8
Preguntas
La gobernanza de IA convierte la responsabilidad abstracta en prácticas repetibles: inventarios, políticas, evaluaciones de riesgo, registros de evidencia, auditorías y monitoreo. Conecta las obligaciones legales con el trabajo de producto, datos, seguridad y compras.
Sin gobernanza, los equipos no pueden demostrar quién aprobó un sistema de IA, qué datos utilizó, cómo fue probado o qué controles existían cuando algo salió mal.
Útil para programas ISO/IEC 42001, preparación frente al Reglamento de IA, gobernanza de proveedores, diseño de políticas internas, preparación de auditorías e informes de riesgo de IA para el consejo de administración.
Conceptos para organizar responsabilidad, rendición de cuentas, inventario y controles de políticas.
Términos para revisar, evidenciar y mejorar sistemas de IA y procesos de gobernanza relacionados.
Problemas recurrentes de gobernanza que aparecen en sistemas reales y flujos de adquisición.
Una comparación lado a lado entre sistema de IA y modelo de IA. Comprenda por qué un modelo suele ser un componente, mientras que un sistema de IA incluye la configuración desplegada más amplia que convierte entradas y objetivos en salidas.
Una comparación lado a lado entre evaluación de riesgos de IA y auditoría de IA. Comprenda cómo un proceso de riesgos apoya decisiones antes y durante el despliegue, mientras que una auditoría evalúa sistemas o gobernanza frente a criterios definidos.
Una comparación lado a lado entre aseguramiento de IA y auditoría de IA. Comprenda cómo el aseguramiento es una práctica más amplia de generación de evidencia para crear confianza, mientras que la auditoría es una evaluación estructurada contra criterios definidos.
Una comparación lado a lado entre gobernanza de IA y sistema de gestión de IA. Comprenda cómo el marco más amplio de supervisión se diferencia de los procesos estructurados o la plataforma usada para gestionar IA durante todo el ciclo de vida.
Una comparación lado a lado entre un sistema de gestión de IA e ISO/IEC 42001. Comprenda la diferencia entre el sistema de gobernanza de IA de una organización y la norma internacional para establecerlo y mejorarlo.
Comparación lado a lado entre un inventario de IA o registro de sistemas y una política de uso de IA. Entienda en qué se diferencia un catálogo de sistemas de IA de las reglas para el uso organizativo aceptable.
Comparación lado a lado entre Shadow AI y Inventario de IA [registro de sistemas]. Explica las diferencias clave, cuándo usar cada concepto y qué implica la distinción para la gobernanza, el diseño del sistema o la evidencia de aseguramiento de IA.
Comparación lado a lado entre IA confiable y IA responsable. Explica las diferencias clave, cuándo usar cada concepto y qué implica la distinción para la gobernanza, el diseño del sistema o la evidencia de aseguramiento de IA.
Comparación lado a lado entre Riesgo de proveedor y Diligencia debida de proveedor. Explica las diferencias clave, cuándo usar cada concepto y qué implica la distinción para la gobernanza, el diseño del sistema o la evidencia de aseguramiento de IA.
Usa la evaluación de riesgos de IA para identificar y gestionar riesgos; usa la auditoría de IA para evaluar evidencias, controles o afirmaciones frente a criterios definidos.
El aseguramiento de IA es el conjunto de prácticas que proporcionan una confianza justificada en que un sistema de IA funciona según lo previsto en su contexto operativo.
La IA en la sombra es el uso de herramientas o sistemas de IA sin aprobación, supervisión o gobernanza formal por parte de una organización. Crea riesgos relacionados con filtración de datos, cumplimiento, seguridad y toma de decisiones inconsistente, y normalmente se gestiona mediante políticas, alternativas aprobadas, formación y supervisión.
Una política de uso de IA es un documento interno de gobernanza que define cómo pueden usarse las herramientas y sistemas de IA dentro de una organización. Normalmente cubre usos aceptables y prohibidos, roles y responsabilidades, tratamiento de datos, requisitos de aprobación, supervisión y escalamiento de incidentes.
La diligencia debida de proveedores de IA es la evaluación de productos o proveedores de IA de terceros en relación con riesgos de seguridad, privacidad, fiabilidad, gobernanza y cumplimiento. Ayuda a las organizaciones a decidir si un proveedor puede aprobarse, contratarse, supervisarse o restringirse de forma segura, y cómo hacerlo.
La rendición de cuentas algorítmica es la responsabilidad por el diseño, la operación, las decisiones y los impactos de los sistemas algorítmicos. Implica transparencia, trazabilidad, supervisión y mecanismos para explicar, impugnar o reparar resultados dañinos.
Una ficha de modelo de IA es un artefacto de documentación conciso que acompaña a un modelo entrenado o servicio de IA. Normalmente describe el uso previsto, limitaciones, resultados de evaluación, riesgos relevantes, contexto de datos o entrenamiento y otra información que apoya la transparencia y el despliegue responsable.
La transparencia es el grado en que el propósito, el uso de datos, la operación, las limitaciones y las salidas de un sistema de IA pueden ser comprendidos o examinados por las partes interesadas pertinentes.