Principiante
¿Qué es la Ley de IA de la UE?
La Ley de IA de la UE es un reglamento de la Unión Europea que establece un marco basado en riesgos para los sistemas de IA y, en algunos casos, para los modelos de IA de propósito general. Define categorías de uso de la IA y asigna obligaciones de seguridad, transparencia, gobernanza y cumplimiento según el nivel de riesgo.
¿Quién es un proveedor según la Ley de IA de la UE?
Un proveedor es una persona, organización, autoridad pública, agencia u otro organismo que desarrolla un sistema de IA o un modelo de IA de propósito general, o encarga su desarrollo, y lo introduce en el mercado o lo pone en servicio bajo su propio nombre o marca.
¿En qué se diferencia un proveedor de un desplegador?
Usa Proveedor para el actor que desarrolla, introduce en el mercado o pone en servicio un sistema de IA o modelo GPAI bajo su nombre; usa Desplegador para el actor que utiliza un sistema de IA bajo su autoridad.
¿Qué es la evaluación de conformidad de un sistema de IA?
La evaluación de conformidad es el proceso para determinar si un sistema, producto o proceso satisface requisitos jurídicos o técnicos especificados.
¿Qué es la seguridad de LLM?
La seguridad de LLM es la disciplina de proteger aplicaciones basadas en modelos de lenguaje grandes frente a ataques, uso indebido, fuga de datos, salidas inseguras y acciones no previstas.
¿Qué es la inyección de prompts?
La inyección de prompts es una técnica adversarial que manipula un modelo de lenguaje colocando instrucciones maliciosas o no previstas en entradas de usuario, documentos, páginas web u otro contenido que el modelo procesa.
¿Qué es un jailbreak en un sistema LLM?
La inyección de prompts o jailbreak se refiere a una entrada adversarial destinada a eludir las instrucciones, políticas de seguridad o controles operativos de un modelo. Las mitigaciones incluyen filtrado de entradas, aislamiento de recuperación, acceso a herramientas con privilegio mínimo, aplicación de políticas y guardrails por capas.
¿En qué se diferencia RAG del fine-tuning?
Usa RAG cuando el modelo necesita información actual, fundamentada en fuentes; usa fine-tuning cuando el modelo necesita comportamiento especializado, rendimiento en tareas, adaptación de dominio o estilo aprendido a partir de datos.
¿Qué es la gobernanza de IA?
La gobernanza de IA es el marco de políticas, procesos, roles, controles y supervisión utilizado para dirigir el desarrollo y uso de la IA durante todo su ciclo de vida. Su objetivo es asegurar prácticas de IA responsables, legales, seguras, transparentes y rendibles dentro de una organización o jurisdicción.
¿Qué es un sistema de gestión de IA?
Un sistema de gestión de IA es una plataforma organizativa o un conjunto estructurado de procesos para gestionar proyectos y sistemas de IA durante todo su ciclo de vida. Coordina actividades de gobernanza, flujos de datos, desarrollo de modelos, despliegue, monitoreo, cumplimiento y rendición de cuentas.
¿Qué es ISO/IEC 42001?
ISO/IEC 42001 es una norma internacional para establecer, implementar, mantener y mejorar un sistema de gestión de IA. Ayuda a las organizaciones a gobernar el desarrollo y uso de la IA mediante políticas, roles, gestión de riesgos, supervisión y mejora continua.
¿Qué es un registro de inventario de sistemas de IA?
Un inventario de IA o registro de sistemas es un catálogo organizado de sistemas y casos de uso de IA dentro de una organización. Normalmente registra responsables, finalidades, fuentes de datos, estado de despliegue, riesgos, controles y otra información necesaria para gobernanza, auditoría y rendición de cuentas.
¿Qué son los datos personales en IA?
Los datos personales son información relativa a una persona física identificada o identificable conforme al derecho de protección de datos. En contextos de la UE, su significado está vinculado al artículo 4(1) del Reglamento (UE) 2016/679 y a la interpretación jurídica relacionada.
¿Qué son los datos de categoría especial en IA?
Las categorías especiales de datos personales son tipos altamente sensibles de datos personales identificados en el derecho de protección de datos de la UE.
¿Los datos biométricos son datos personales?
Los datos biométricos son datos personales producidos por un tratamiento técnico específico de características físicas, fisiológicas o conductuales de una persona. Ejemplos incluyen imágenes faciales, huellas dactilares, patrones de voz, forma de andar y otros identificadores que pueden apoyar el reconocimiento o la identificación.
¿Qué es la anonimización en la gobernanza de datos de IA?
La anonimización y la desidentificación son técnicas utilizadas para reducir el riesgo de que las personas puedan identificarse a partir de un conjunto de datos. En la práctica, la anonimización irreversible puede ser difícil, especialmente cuando los conjuntos de datos pueden vincularse con otra información.
¿Qué es la seguridad de la IA?
La seguridad de la IA es el campo interdisciplinario y el conjunto de prácticas centradas en prevenir daños derivados de sistemas de IA. Incluye fiabilidad, prevención del uso indebido, mitigación de sesgos y errores, alineación con valores humanos y análisis de riesgos tanto inmediatos como a largo plazo.
¿En qué se diferencia el riesgo del daño?
Usa riesgo para resultados adversos potenciales antes o durante la evaluación; usa daño para el efecto adverso que ya ocurrió o que puede describirse de forma concreta.
¿Qué es un safety case para IA?
Un safety case de IA es un argumento documentado, respaldado por evidencia, de que un sistema de IA es aceptablemente seguro para un uso y contexto operativo definidos. Es especialmente relevante en sectores de mayor riesgo donde la garantía debe ser explícita, revisable y mantenida en el tiempo.
¿Qué es la deriva del modelo?
La deriva del modelo es la degradación o cambio del rendimiento de un modelo a lo largo del tiempo cuando los datos reales, el comportamiento de los usuarios o las condiciones operativas divergen de los datos usados durante el entrenamiento o la evaluación. Detectar la deriva es importante para decidir cuándo reentrenar, recalibrar o reemplazar un modelo.
¿Qué es la evaluación de modelos?
La evaluación es el proceso de medir la calidad, el comportamiento o el rendimiento de un modelo, sistema o cambio frente a criterios definidos. En aprendizaje automático puede usar datos de validación y prueba, mientras que la evaluación de LLM también puede incluir seguridad, factualidad, robustez y evaluaciones de impacto en usuarios.
¿Qué es un benchmark en la evaluación de IA?
Un benchmark es una prueba, conjunto de datos, tarea o procedimiento de evaluación estandarizado utilizado para medir y comparar el rendimiento de sistemas de IA.
¿En qué se diferencian precision y recall?
Usa Precision cuando los falsos positivos son costosos; usa Recall cuando los positivos omitidos son costosos.
¿Por qué la accuracy puede ser engañosa?
Accuracy es una métrica de clasificación igual a la proporción de predicciones correctas entre todas las predicciones realizadas. Es útil en algunos entornos de evaluación, pero puede ser engañosa cuando las clases están desequilibradas, donde precision, recall u otras métricas pueden reflejar mejor el rendimiento del modelo.
¿Qué es la IA agéntica?
La IA agéntica se refiere a sistemas de IA que pueden perseguir objetivos percibiendo contexto, tomando decisiones, planificando pasos y realizando acciones con cierto grado de autonomía.
¿Qué es un agente de IA?
Un agente de IA es una entidad o sistema de software que percibe un entorno, interpreta entradas y realiza acciones para alcanzar objetivos.
¿Qué es un flujo de trabajo agéntico?
Un flujo de trabajo agéntico es un proceso en el que un agente de IA planifica y ejecuta varios pasos hacia un objetivo definido. Puede incluir razonamiento, invocación de herramientas, interacción con sistemas externos, monitoreo y autocorrección cuando cambian las condiciones.
¿Qué es un bucle agéntico?
Un bucle agéntico es el ciclo repetido mediante el cual un agente de IA observa una situación, razona sobre qué hacer, actúa y usa feedback para continuar o detenerse. El bucle continúa hasta que se alcanza un objetivo, ocurre una condición de fallo o se cumple otra regla de terminación.
¿Qué es la IA biométrica?
La tecnología biométrica se refiere a sistemas que usan datos biométricos para reconocer, verificar o identificar la identidad de una persona. Ejemplos incluyen reconocimiento facial, escaneo de huellas dactilares, reconocimiento de iris, reconocimiento de voz y herramientas relacionadas de garantía de identidad.
¿Qué son los datos biométricos?
Los datos biométricos son datos personales producidos por un tratamiento técnico específico de características físicas, fisiológicas o conductuales de una persona. Ejemplos incluyen imágenes faciales, huellas dactilares, patrones de voz, forma de andar y otros identificadores que pueden apoyar el reconocimiento o la identificación.
¿Qué es la identificación biométrica?
La identificación biométrica es el reconocimiento automatizado de la identidad de una persona física comparando sus datos biométricos con datos biométricos almacenados en una base de datos. Normalmente es un proceso de coincidencia uno-a-muchos utilizado para establecer quién es la persona.
¿En qué se diferencia la verificación biométrica de la identificación biométrica?
Usa identificación biométrica cuando el foco sea el reconocimiento automatizado de la identidad de una persona física comparando sus datos biométricos con datos biométricos almacenados en una base de datos; usa verificación biométrica cuando el foco sea la confirmación automatizada uno-a-uno de la identidad de una persona comparando sus datos biométricos.
¿Qué es el aprendizaje automático?
El aprendizaje automático (ML) es un subcampo de la inteligencia artificial en el que los sistemas aprenden patrones a partir de datos o experiencia para hacer predicciones, clasificaciones, recomendaciones o decisiones sin estar programados explícitamente para cada caso.
¿Qué es el aprendizaje supervisado?
El aprendizaje supervisado es un enfoque de aprendizaje automático en el que un modelo aprende de ejemplos que emparejan entradas con salidas objetivo o etiquetas conocidas. El modelo usa esos ejemplos etiquetados para aprender mapeos que pueden apoyar predicción, clasificación o regresión sobre datos nuevos.
¿En qué se diferencia el aprendizaje no supervisado del aprendizaje supervisado?
Usa aprendizaje supervisado cuando existen ejemplos etiquetados de entrada-salida; usa aprendizaje no supervisado cuando el objetivo es descubrir estructura sin etiquetas.
¿Qué es el aprendizaje por refuerzo?
El aprendizaje por refuerzo (RL) es un paradigma de aprendizaje automático en el que un agente aprende a actuar en un entorno recibiendo recompensas o penalizaciones por sus acciones. El objetivo es aprender una política que maximice la recompensa acumulada esperada a lo largo del tiempo.
¿Qué es la IA generativa?
La IA generativa (GenAI) se refiere a sistemas de IA que crean contenido nuevo, como texto, imágenes, audio, video, código u otros medios, en respuesta a prompts o contexto. Estos sistemas aprenden patrones a partir de datos de entrenamiento y generan salidas que se parecen o transforman los tipos de contenido con los que fueron entrenados.
¿En qué se diferencia la IA generativa de la inteligencia artificial?
Usa inteligencia artificial para el campo amplio y la categoría de sistemas; usa IA generativa cuando el sistema crea contenido nuevo a partir de prompts o contexto.
¿Qué es un modelo de lenguaje grande?
Un LLM, o modelo de lenguaje grande, es un modelo de lenguaje con un gran número de parámetros entrenado con amplios datos de texto o multimodales para entender y generar lenguaje.
¿Qué es un modelo de difusión?
Un modelo de difusión es un modelo generativo entrenado para revertir un proceso que añade ruido gradualmente a los datos. Al aprender a eliminar ruido desde ruido aleatorio hacia una distribución objetivo de datos, puede generar imágenes, audio, representaciones de texto u otras salidas realistas.