Comparación lado a lado entre riesgo sistémico y capacidades de alto impacto. Explica cómo los umbrales de capacidad del modelo se relacionan con riesgos más amplios que pueden propagarse por la sociedad, mercados, seguridad y derechos fundamentales.
Veredicto rápido: Use capacidades de alto impacto para describir el nivel de capacidad; use riesgo sistémico para describir la escala y propagación de posibles efectos negativos.
Systemic Risk defines risk associated with high-impact capabilities of general-purpose AI models that can produce significant effects across markets, society, public health, safety, security.
Contexto: Más relevante al evaluar si un modelo de IA de propósito general crea riesgo social o de mercado amplio.
High-Impact Capabilities defines capabilities that match or exceed those recorded in the most advanced general-purpose AI models.
Contexto: Más relevante al evaluar si los niveles de capacidad del modelo requieren atención reforzada de gobernanza.
| Aspecto | Systemic Risk | High-Impact Capabilities |
|---|---|---|
| Propósito regulatorio | El riesgo sistémico enmarca por qué un modelo potente puede requerir gobernanza reforzada porque los efectos negativos pueden propagarse ampliamente. | Las capacidades de alto impacto ayudan a identificar el nivel de capacidad que puede generar implicaciones sistémicas. |
| Punto desencadenante | Se desencadena por el potencial de efectos significativos en dominios amplios como seguridad, mercados o derechos. | Se desencadena por evidencia de que las capacidades del modelo igualan o superan las de modelos avanzados de IA de propósito general. |
| Evidencia requerida | La evidencia debe cubrir escala, alcance, uso indebido previsible, dominios afectados y vías de propagación. | La evidencia debe cubrir evaluaciones de capacidad, benchmarks, comparaciones y registros de evaluación técnica. |
| Actor responsable | Proveedores y equipos de gobernanza deben evaluar, mitigar y documentar los riesgos amplios creados por el modelo. | Proveedores y equipos técnicos deben identificar, medir y documentar las capacidades del modelo que generan mayor preocupación. |
| Implicación de auditoría | Los auditores comprobarán si el análisis de riesgo va más allá de métricas estrechas de rendimiento hacia efectos sociales más amplios. | Los auditores comprobarán si las afirmaciones de capacidad están respaldadas por evaluaciones reproducibles y revisión de gobernanza. |
En la práctica, las capacidades de alto impacto son un insumo para el análisis de riesgo, no la conclusión final de riesgo. El expediente de cumplimiento debe mostrar cómo la evidencia de capacidades se tradujo en controles de riesgo sistémico.
Equiparar alta capacidad con riesgo sistémico probado sin análisis
Evaluar riesgo sistémico solo mediante puntuaciones de benchmark
Ignorar uso indebido previsible y propagación downstream
No conectar evaluaciones técnicas con decisiones de gobernanza
Use Riesgo sistémico al tratar efectos negativos amplios y de gran escala que pueden surgir de modelos de IA de propósito general. El término es más fuerte cuando la preocupación es la propagación por mercados, seguridad, derechos o sociedad.
Use Capacidades de alto impacto al tratar el nivel de capacidad del modelo que puede activar atención reforzada de gobernanza. El término debe apoyarse en evaluaciones de capacidad, no solo en afirmaciones generales sobre potencia del modelo.
En el trabajo del EU AI Act, la evaluación de capacidades y la evaluación de riesgo sistémico deben vincularse pero documentarse por separado. La evidencia tipo NIST AI RMF debe mostrar tanto medición técnica de capacidades como vías de riesgo para uso indebido o daño amplio.
No. Las capacidades de alto impacto describen el nivel de capacidad; el riesgo sistémico describe el potencial de efectos negativos significativos y extendidos.
Las capacidades avanzadas pueden crear condiciones para riesgos que se propagan a escala. La regulación usa señales de capacidad para identificar modelos que requieren gobernanza de riesgos más cuidadosa.
Un proveedor debe conservar evaluaciones de capacidad, evaluaciones de riesgo, análisis de uso indebido, registros de mitigación, evidencia de monitorización y decisiones de gobernanza.
No recently viewed comparisons yet.