Comparación lado a lado entre incidente grave e incidente de IA. Explica cómo un evento amplio de daño relacionado con IA difiere de una categoría severa que puede activar obligaciones reforzadas de reporte y corrección.
Veredicto rápido: Use incidente de IA para la categoría amplia de eventos; use incidente grave cuando el incidente o mal funcionamiento cause daño severo o consecuencias regulatorias de reporte.
Serious Incident defines AI-system incident or malfunction that directly or indirectly causes severe harm, such as death, serious health harm, critical infrastructure disruption, fundamental-rights infringement.
Contexto: Más relevante cuando un evento de IA implica muerte, daño grave a la salud, interrupción de infraestructura crítica, vulneración de derechos o daños graves a propiedad o medio ambiente.
AI Incident describes event or series of events in which the development, deployment, use, or malfunction of an AI system causes or could cause harm.
Contexto: Más relevante al registrar, triar, investigar o aprender de eventos de daño relacionados con IA.
| Aspecto | Serious Incident | [AI] Incident |
|---|---|---|
| Definición | Un incidente grave es un incidente o mal funcionamiento de un sistema de IA que causa daño severo o consecuencias comparables de alto impacto. | Un incidente de IA es un evento o serie de eventos más amplio en el que el desarrollo, despliegue, uso o mal funcionamiento de IA causa o podría causar daño. |
| Diferencia práctica | El término señala severidad y probable escalamiento a reporte formal, investigación y acción correctiva. | El término captura el universo más amplio de incidentes, incluidos eventos sospechados, potenciales y de menor severidad. |
| Caso de uso típico | Se usa en reporte regulatorio, escalamiento al board, investigación de causa raíz y seguimiento de acciones correctivas. | Se usa en registros de incidentes, programas de monitorización, revisiones de seguridad y aprendizaje post-mercado. |
| Error común | Clasificar un evento como grave sin evidencia de que se cumple el umbral de daño. | No registrar un evento porque aún no se ha convertido en incidente grave. |
| Implicación de gobernanza | Requiere reglas estrictas de escalamiento, plazos, responsabilidad y evidencia correctiva. | Requiere registro, triaje, evaluación de severidad, monitorización y análisis de tendencias. |
En la práctica, todo incidente grave debe ser un incidente de IA, pero no todo incidente de IA es grave. El control crítico es un flujo defendible de clasificación de severidad.
Usar incidente grave como etiqueta genérica para cualquier fallo de IA
Ignorar cuasi accidentes porque no ocurrió daño severo
No registrar la razón de la clasificación de severidad
Separar respuesta a incidentes de monitorización post-mercado
Use Incidente grave cuando el nivel de daño o mal funcionamiento alcance un umbral severo y pueda activar reporte formal, investigación u obligaciones correctivas. El término debe apoyarse en evidencia de impacto, severidad y acciones de respuesta.
Use Incidente de IA para la categoría amplia de eventos relacionados con IA que causan o podrían causar daño. Es adecuado para registros, flujos de triaje, análisis de cuasi accidentes e investigación inicial antes de determinar la severidad final.
Para la gobernanza bajo el EU AI Act, la clasificación de incidente grave afecta escalamiento y obligaciones de reporte, mientras que un registro más amplio de incidentes de IA apoya monitorización post-mercado y gestión de riesgos. La evidencia ISO 42001 y NIST AI RMF debe mostrar cómo se capturan, clasifican, investigan y remedian los incidentes.
No. Incidente de IA es la categoría amplia, mientras que incidente grave se reserva para daño severo o condiciones de escalamiento regulatorio.
Pueden revelar fallos repetidos, riesgos emergentes y debilidades de control antes de que ocurra daño severo. El registro también apoya monitorización y mejora continua.
La evidencia clave incluye evaluación del daño, cronología, partes afectadas, causa raíz, medidas correctivas, notificaciones y monitorización de seguimiento.
No recently viewed comparisons yet.