Principiante
¿Qué es la Ley de IA de la UE?
La Ley de IA de la UE es un reglamento de la Unión Europea que establece un marco basado en riesgos para los sistemas de IA y, en algunos casos, para los modelos de IA de propósito general. Define categorías de uso de la IA y asigna obligaciones de seguridad, transparencia, gobernanza y cumplimiento según el nivel de riesgo.
¿Quién es un proveedor según la Ley de IA de la UE?
Un proveedor es una persona, organización, autoridad pública, agencia u otro organismo que desarrolla un sistema de IA o un modelo de IA de propósito general, o encarga su desarrollo, y lo introduce en el mercado o lo pone en servicio bajo su propio nombre o marca.
¿En qué se diferencia un proveedor de un desplegador?
Usa Proveedor para el actor que desarrolla, introduce en el mercado o pone en servicio un sistema de IA o modelo GPAI bajo su nombre; usa Desplegador para el actor que utiliza un sistema de IA bajo su autoridad.
¿Qué es la evaluación de conformidad de un sistema de IA?
La evaluación de conformidad es el proceso para determinar si un sistema, producto o proceso satisface requisitos jurídicos o técnicos especificados.
¿Qué es la seguridad de LLM?
La seguridad de LLM es la disciplina de proteger aplicaciones basadas en modelos de lenguaje grandes frente a ataques, uso indebido, fuga de datos, salidas inseguras y acciones no previstas.
¿Qué es la inyección de prompts?
La inyección de prompts es una técnica adversarial que manipula un modelo de lenguaje colocando instrucciones maliciosas o no previstas en entradas de usuario, documentos, páginas web u otro contenido que el modelo procesa.
¿Qué es un jailbreak en un sistema LLM?
La inyección de prompts o jailbreak se refiere a una entrada adversarial destinada a eludir las instrucciones, políticas de seguridad o controles operativos de un modelo. Las mitigaciones incluyen filtrado de entradas, aislamiento de recuperación, acceso a herramientas con privilegio mínimo, aplicación de políticas y guardrails por capas.
¿En qué se diferencia RAG del fine-tuning?
Usa RAG cuando el modelo necesita información actual, fundamentada en fuentes; usa fine-tuning cuando el modelo necesita comportamiento especializado, rendimiento en tareas, adaptación de dominio o estilo aprendido a partir de datos.
¿Qué es la gobernanza de IA?
La gobernanza de IA es el marco de políticas, procesos, roles, controles y supervisión utilizado para dirigir el desarrollo y uso de la IA durante todo su ciclo de vida. Su objetivo es asegurar prácticas de IA responsables, legales, seguras, transparentes y rendibles dentro de una organización o jurisdicción.
¿Qué es un sistema de gestión de IA?
Un sistema de gestión de IA es una plataforma organizativa o un conjunto estructurado de procesos para gestionar proyectos y sistemas de IA durante todo su ciclo de vida. Coordina actividades de gobernanza, flujos de datos, desarrollo de modelos, despliegue, monitoreo, cumplimiento y rendición de cuentas.
¿Qué es ISO/IEC 42001?
ISO/IEC 42001 es una norma internacional para establecer, implementar, mantener y mejorar un sistema de gestión de IA. Ayuda a las organizaciones a gobernar el desarrollo y uso de la IA mediante políticas, roles, gestión de riesgos, supervisión y mejora continua.
¿Qué es un registro de inventario de sistemas de IA?
Un inventario de IA o registro de sistemas es un catálogo organizado de sistemas y casos de uso de IA dentro de una organización. Normalmente registra responsables, finalidades, fuentes de datos, estado de despliegue, riesgos, controles y otra información necesaria para gobernanza, auditoría y rendición de cuentas.
¿Qué son los datos personales en IA?
Los datos personales son información relativa a una persona física identificada o identificable conforme al derecho de protección de datos. En contextos de la UE, su significado está vinculado al artículo 4(1) del Reglamento (UE) 2016/679 y a la interpretación jurídica relacionada.
¿Qué son los datos de categoría especial en IA?
Las categorías especiales de datos personales son tipos altamente sensibles de datos personales identificados en el derecho de protección de datos de la UE.
¿Los datos biométricos son datos personales?
Los datos biométricos son datos personales producidos por un tratamiento técnico específico de características físicas, fisiológicas o conductuales de una persona. Ejemplos incluyen imágenes faciales, huellas dactilares, patrones de voz, forma de andar y otros identificadores que pueden apoyar el reconocimiento o la identificación.
¿Qué es la anonimización en la gobernanza de datos de IA?
La anonimización y la desidentificación son técnicas utilizadas para reducir el riesgo de que las personas puedan identificarse a partir de un conjunto de datos. En la práctica, la anonimización irreversible puede ser difícil, especialmente cuando los conjuntos de datos pueden vincularse con otra información.
¿Qué es la seguridad de la IA?
La seguridad de la IA es el campo interdisciplinario y el conjunto de prácticas centradas en prevenir daños derivados de sistemas de IA. Incluye fiabilidad, prevención del uso indebido, mitigación de sesgos y errores, alineación con valores humanos y análisis de riesgos tanto inmediatos como a largo plazo.
¿En qué se diferencia el riesgo del daño?
Usa riesgo para resultados adversos potenciales antes o durante la evaluación; usa daño para el efecto adverso que ya ocurrió o que puede describirse de forma concreta.
¿Qué es un safety case para IA?
Un safety case de IA es un argumento documentado, respaldado por evidencia, de que un sistema de IA es aceptablemente seguro para un uso y contexto operativo definidos. Es especialmente relevante en sectores de mayor riesgo donde la garantía debe ser explícita, revisable y mantenida en el tiempo.
¿Qué es la deriva del modelo?
La deriva del modelo es la degradación o cambio del rendimiento de un modelo a lo largo del tiempo cuando los datos reales, el comportamiento de los usuarios o las condiciones operativas divergen de los datos usados durante el entrenamiento o la evaluación. Detectar la deriva es importante para decidir cuándo reentrenar, recalibrar o reemplazar un modelo.
¿Qué es la evaluación de modelos?
La evaluación es el proceso de medir la calidad, el comportamiento o el rendimiento de un modelo, sistema o cambio frente a criterios definidos. En aprendizaje automático puede usar datos de validación y prueba, mientras que la evaluación de LLM también puede incluir seguridad, factualidad, robustez y evaluaciones de impacto en usuarios.
¿Qué es un benchmark en la evaluación de IA?
Un benchmark es una prueba, conjunto de datos, tarea o procedimiento de evaluación estandarizado utilizado para medir y comparar el rendimiento de sistemas de IA.
¿En qué se diferencian precision y recall?
Usa Precision cuando los falsos positivos son costosos; usa Recall cuando los positivos omitidos son costosos.
¿Por qué la accuracy puede ser engañosa?
Accuracy es una métrica de clasificación igual a la proporción de predicciones correctas entre todas las predicciones realizadas. Es útil en algunos entornos de evaluación, pero puede ser engañosa cuando las clases están desequilibradas, donde precision, recall u otras métricas pueden reflejar mejor el rendimiento del modelo.
¿Qué es la IA agéntica?
La IA agéntica se refiere a sistemas de IA que pueden perseguir objetivos percibiendo contexto, tomando decisiones, planificando pasos y realizando acciones con cierto grado de autonomía.
¿Qué es un agente de IA?
Un agente de IA es una entidad o sistema de software que percibe un entorno, interpreta entradas y realiza acciones para alcanzar objetivos.
¿Qué es un flujo de trabajo agéntico?
Un flujo de trabajo agéntico es un proceso en el que un agente de IA planifica y ejecuta varios pasos hacia un objetivo definido. Puede incluir razonamiento, invocación de herramientas, interacción con sistemas externos, monitoreo y autocorrección cuando cambian las condiciones.
¿Qué es un bucle agéntico?
Un bucle agéntico es el ciclo repetido mediante el cual un agente de IA observa una situación, razona sobre qué hacer, actúa y usa feedback para continuar o detenerse. El bucle continúa hasta que se alcanza un objetivo, ocurre una condición de fallo o se cumple otra regla de terminación.
¿Qué es la IA biométrica?
La tecnología biométrica se refiere a sistemas que usan datos biométricos para reconocer, verificar o identificar la identidad de una persona. Ejemplos incluyen reconocimiento facial, escaneo de huellas dactilares, reconocimiento de iris, reconocimiento de voz y herramientas relacionadas de garantía de identidad.
¿Qué son los datos biométricos?
Los datos biométricos son datos personales producidos por un tratamiento técnico específico de características físicas, fisiológicas o conductuales de una persona. Ejemplos incluyen imágenes faciales, huellas dactilares, patrones de voz, forma de andar y otros identificadores que pueden apoyar el reconocimiento o la identificación.
¿Qué es la identificación biométrica?
La identificación biométrica es el reconocimiento automatizado de la identidad de una persona física comparando sus datos biométricos con datos biométricos almacenados en una base de datos. Normalmente es un proceso de coincidencia uno-a-muchos utilizado para establecer quién es la persona.
¿En qué se diferencia la verificación biométrica de la identificación biométrica?
Usa identificación biométrica cuando el foco sea el reconocimiento automatizado de la identidad de una persona física comparando sus datos biométricos con datos biométricos almacenados en una base de datos; usa verificación biométrica cuando el foco sea la confirmación automatizada uno-a-uno de la identidad de una persona comparando sus datos biométricos.
¿Qué es el aprendizaje automático?
El aprendizaje automático (ML) es un subcampo de la inteligencia artificial en el que los sistemas aprenden patrones a partir de datos o experiencia para hacer predicciones, clasificaciones, recomendaciones o decisiones sin estar programados explícitamente para cada caso.
¿Qué es el aprendizaje supervisado?
El aprendizaje supervisado es un enfoque de aprendizaje automático en el que un modelo aprende de ejemplos que emparejan entradas con salidas objetivo o etiquetas conocidas. El modelo usa esos ejemplos etiquetados para aprender mapeos que pueden apoyar predicción, clasificación o regresión sobre datos nuevos.
¿En qué se diferencia el aprendizaje no supervisado del aprendizaje supervisado?
Usa aprendizaje supervisado cuando existen ejemplos etiquetados de entrada-salida; usa aprendizaje no supervisado cuando el objetivo es descubrir estructura sin etiquetas.
¿Qué es el aprendizaje por refuerzo?
El aprendizaje por refuerzo (RL) es un paradigma de aprendizaje automático en el que un agente aprende a actuar en un entorno recibiendo recompensas o penalizaciones por sus acciones. El objetivo es aprender una política que maximice la recompensa acumulada esperada a lo largo del tiempo.
¿Qué es la IA generativa?
La IA generativa (GenAI) se refiere a sistemas de IA que crean contenido nuevo, como texto, imágenes, audio, video, código u otros medios, en respuesta a prompts o contexto. Estos sistemas aprenden patrones a partir de datos de entrenamiento y generan salidas que se parecen o transforman los tipos de contenido con los que fueron entrenados.
¿En qué se diferencia la IA generativa de la inteligencia artificial?
Usa inteligencia artificial para el campo amplio y la categoría de sistemas; usa IA generativa cuando el sistema crea contenido nuevo a partir de prompts o contexto.
¿Qué es un modelo de lenguaje grande?
Un LLM, o modelo de lenguaje grande, es un modelo de lenguaje con un gran número de parámetros entrenado con amplios datos de texto o multimodales para entender y generar lenguaje.
¿Qué es un modelo de difusión?
Un modelo de difusión es un modelo generativo entrenado para revertir un proceso que añade ruido gradualmente a los datos. Al aprender a eliminar ruido desde ruido aleatorio hacia una distribución objetivo de datos, puede generar imágenes, audio, representaciones de texto u otras salidas realistas.
Intermedio
¿Cuándo se introduce un sistema de IA en el mercado?
La introducción en el mercado significa la primera puesta a disposición de un sistema de IA o de un modelo de IA de propósito general en el mercado de la UE. El término es importante porque ciertas obligaciones regulatorias se aplican en ese momento o antes.
¿Cuál es la finalidad prevista de un sistema de IA?
La finalidad prevista es el uso para el que un proveedor diseña, comercializa o despliega un sistema de IA. Define el contexto esperado, los usuarios, las funciones, los resultados y las limitaciones, y es central para la clasificación de riesgos, el cumplimiento y la rendición de cuentas.
¿Qué es el uso indebido razonablemente previsible?
El uso indebido razonablemente previsible es el uso de un sistema de IA fuera de su finalidad prevista de una manera que aun así puede anticiparse a partir del comportamiento humano o de la interacción con otros sistemas.
¿Qué es el marcado CE para sistemas de IA?
El marcado CE es una marca de conformidad que indica que un producto o sistema de IA cumple los requisitos aplicables de la legislación pertinente de la Unión Europea. En el caso de los sistemas de IA, señala que el proveedor ha evaluado el cumplimiento de las obligaciones legales aplicables al sistema.
¿Qué es la IA de propósito general?
La IA de propósito general (GPAI) se refiere a modelos o sistemas de IA que pueden adaptarse a una amplia variedad de tareas y aplicaciones. Los modelos fundacionales son un ejemplo común, en contraste con los sistemas de IA estrecha diseñados para una tarea específica.
¿Qué es el riesgo sistémico en la GPAI?
El riesgo sistémico es un riesgo asociado a capacidades de alto impacto de modelos de IA de propósito general que pueden producir efectos significativos en los mercados, la sociedad, la salud pública, la seguridad, la protección o los derechos fundamentales.
¿Por qué RAG puede crear riesgos de privacidad y seguridad?
La generación aumentada por recuperación (RAG) es una técnica que combina IA generativa con recuperación desde fuentes de datos externas. El modelo utiliza documentos, pasajes o registros recuperados como contexto de base para producir respuestas más actuales, específicas y verificables.
¿Qué son los guardrails en un sistema LLM?
Los guardrails son controles técnicos, procedimentales o de política diseñados para mantener los sistemas de IA dentro de límites aceptables. Pueden reducir riesgos como resultados dañinos, filtración de datos, acceso no autorizado, infracciones de políticas o comportamiento inseguro.
¿Qué es el grounding en la IA generativa?
El grounding es el proceso de conectar la salida de un modelo de IA con fuentes de información fiables y verificables en el momento de la inferencia. En la IA generativa, ayuda a mejorar la fiabilidad factual al aportar contexto relevante sin cambiar los pesos subyacentes del modelo.
¿Qué es una alucinación en un sistema de IA?
Una alucinación es una salida generada por IA que parece plausible o segura, pero es falsa, no respaldada, engañosa o fabricada. En la IA generativa, las alucinaciones pueden incluir hechos incorrectos, fuentes inventadas, citas falsas o razonamientos que no están fundamentados en evidencia fiable.
¿En qué se diferencia un prompt de sistema de un prompt de usuario?
Usa el prompt de sistema para instrucciones y restricciones duraderas de la aplicación; usa el prompt de usuario para la solicitud inmediata, el contexto y el resultado deseado del usuario.
¿Qué es el red teaming para LLM?
El red teaming es un proceso estructurado de pruebas adversariales utilizado para identificar debilidades, comportamientos inseguros o salidas dañinas en un sistema de IA. Consiste en sondear deliberadamente el sistema con entradas difíciles, maliciosas o de casos límite para que los desarrolladores puedan evaluar y mejorar las salvaguardas.
¿En qué se diferencia la evaluación de riesgos de IA de una auditoría de IA?
Usa la evaluación de riesgos de IA para identificar y gestionar riesgos; usa la auditoría de IA para evaluar evidencias, controles o afirmaciones frente a criterios definidos.
¿Qué es el aseguramiento de IA?
El aseguramiento de IA es el conjunto de prácticas que proporcionan una confianza justificada en que un sistema de IA funciona según lo previsto en su contexto operativo.
¿Qué es la IA en la sombra?
La IA en la sombra es el uso de herramientas o sistemas de IA sin aprobación, supervisión o gobernanza formal por parte de una organización. Crea riesgos relacionados con filtración de datos, cumplimiento, seguridad y toma de decisiones inconsistente, y normalmente se gestiona mediante políticas, alternativas aprobadas, formación y supervisión.
¿Qué es una política de uso de IA?
Una política de uso de IA es un documento interno de gobernanza que define cómo pueden usarse las herramientas y sistemas de IA dentro de una organización. Normalmente cubre usos aceptables y prohibidos, roles y responsabilidades, tratamiento de datos, requisitos de aprobación, supervisión y escalamiento de incidentes.
¿Qué es la diligencia debida de proveedores para IA?
La diligencia debida de proveedores de IA es la evaluación de productos o proveedores de IA de terceros en relación con riesgos de seguridad, privacidad, fiabilidad, gobernanza y cumplimiento. Ayuda a las organizaciones a decidir si un proveedor puede aprobarse, contratarse, supervisarse o restringirse de forma segura, y cómo hacerlo.
¿Qué es la rendición de cuentas algorítmica?
La rendición de cuentas algorítmica es la responsabilidad por el diseño, la operación, las decisiones y los impactos de los sistemas algorítmicos. Implica transparencia, trazabilidad, supervisión y mecanismos para explicar, impugnar o reparar resultados dañinos.
¿En qué se diferencia la seudonimización de la anonimización?
Usa anonimización o desidentificación cuando se hable de reducir o eliminar la identificabilidad; usa seudonimización cuando los datos personales aún puedan atribuirse mediante información adicional protegida.
¿Qué es la privacidad diferencial?
Usa anonimización de datos cuando se modifiquen datos para reducir la identificabilidad; usa privacidad diferencial cuando se limite la inferencia individual a partir de salidas mediante un marco de privacidad.
¿Los datos sintéticos aún pueden crear riesgos de privacidad?
Los datos sintéticos son datos generados artificialmente diseñados para parecerse a determinados patrones, estructuras o propiedades estadísticas de datos reales.
¿Qué es la procedencia de los datos?
La procedencia de los datos es la historia registrada de los datos, incluida su fuente, creación, transformaciones, movimientos y cambios a lo largo del tiempo. En la gobernanza de IA, la procedencia ayuda a verificar el linaje de los conjuntos de datos, evaluar la fiabilidad, apoyar auditorías y entender cómo se produjo el contenido digital o las entradas del modelo.
¿Qué es la residencia de datos en IA?
La residencia y la soberanía de datos se refieren a dónde se almacenan, procesan y gobiernan los datos, y qué regímenes jurídicos se aplican. Para usos regulados de IA, estos conceptos afectan a la elección de regiones cloud, transferencias transfronterizas, controles contractuales y cumplimiento de requisitos sectoriales o nacionales.
¿Cómo se solapan el RGPD y el Reglamento de IA de la UE?
Usa el RGPD cuando el problema sea el tratamiento de datos personales; usa el Reglamento de IA de la UE cuando el problema sea la categoría de riesgo del sistema de IA, la seguridad, la transparencia, la gobernanza o las obligaciones de conformidad.
¿En qué se diferencia la deriva de datos de la deriva de concepto?
Usa deriva de datos cuando cambia la distribución de los datos de entrada; usa deriva de concepto cuando cambia la relación entre las entradas y el resultado objetivo.
¿Qué es el alineamiento en la seguridad de IA?
El alineamiento es la práctica de diseñar, entrenar y gobernar un sistema de IA para que sus objetivos, salidas y comportamiento sigan siendo coherentes con las intenciones humanas, los valores y las restricciones de uso aceptable.
¿Qué es un incidente grave de IA?
Un incidente de IA es un evento o serie de eventos en los que el desarrollo, despliegue, uso o mal funcionamiento de un sistema de IA causa o podría causar daño. Ese daño puede afectar a la seguridad, la discriminación, la privacidad, el cumplimiento legal, infraestructuras críticas, propiedad, comunidades o el medio ambiente.
¿Qué es el control humano en el circuito?
HITL, o humano en el circuito, es un enfoque en el que las personas siguen participando en la configuración, revisión, aprobación o mejora de salidas o decisiones de sistemas de IA. Se usa para combinar la eficiencia de la máquina con el juicio humano, especialmente en tareas de mayor riesgo o sensibles al contexto.
¿Qué es la toxicidad de IA?
La toxicidad de IA es una salida dañina, ofensiva, falsa, sesgada o de otro modo inapropiada generada o amplificada por un sistema de IA. Puede surgir de los datos de entrenamiento, el diseño del sistema, el contexto del prompt, la falta de alineamiento o salvaguardas inadecuadas.
¿Por qué importa el seguimiento poscomercialización?
Un sistema de seguimiento poscomercialización consiste en actividades realizadas por proveedores de sistemas de IA para recopilar y revisar la experiencia de sistemas introducidos en el mercado o puestos en servicio. Su finalidad es identificar si se necesitan acciones correctivas o preventivas después del despliegue.
¿Qué es una puntuación F1?
La puntuación F1 es la media armónica de la precisión y la exhaustividad, utilizada para evaluar el rendimiento en clasificación y extracción de información. Va de 0 a 1, donde los valores más altos indican un mejor equilibrio entre positivos correctamente identificados y positivos omitidos.
¿En qué se diferencian los falsos positivos y los falsos negativos?
Usa falso positivo para una marca positiva incorrecta; usa falso negativo para una omisión incorrecta al no detectar una condición positiva real.
¿Qué es un umbral de clasificación?
Un umbral de clasificación es un valor de corte elegido para convertir la puntuación o probabilidad de un modelo en una predicción de clase. Cambiar el umbral puede alterar el equilibrio entre falsos positivos y falsos negativos, por lo que la selección del umbral es una decisión importante de gobernanza y rendimiento.
¿Qué son los datos de validación?
Los datos de validación son datos usados para evaluar un modelo durante el desarrollo y ajustar decisiones como hiperparámetros, umbrales o procesos de aprendizaje. Deben ser distintos de los datos de entrenamiento y prueba para ayudar a detectar subajuste, sobreajuste y problemas de generalización.
¿Qué es un conjunto de prueba?
Un conjunto de prueba es un conjunto de datos reservado que se usa para proporcionar una evaluación independiente de un modelo entrenado o sistema de IA. Debe separarse de los datos de entrenamiento y validación para que las estimaciones de rendimiento reflejen mejor el comportamiento sobre datos no vistos antes del despliegue o lanzamiento.
¿Qué es la supervisión de modelos?
La supervisión de modelos es la observación continua del rendimiento, las entradas, las salidas, la deriva, los errores, la latencia y la salud operativa de un modelo desplegado. Ayuda a detectar degradación, uso indebido, sesgo, problemas de seguridad y condiciones que requieren reentrenamiento o intervención.
¿Qué es la orquestación de IA?
La orquestación de IA es la coordinación y el enrutamiento de tareas de IA, flujos de trabajo, llamadas a modelos, herramientas y agentes dentro de un sistema. Ayuda a dividir procesos complejos en pasos manejables y asignarlos a los modelos, subagentes o componentes de automatización adecuados.
¿Qué es la llamada a funciones en agentes de IA?
La llamada a funciones es una capacidad que permite a un modelo de lenguaje invocar herramientas externas, API o funciones predefinidas. Amplía el comportamiento del modelo más allá de la generación de texto al permitir acciones estructuradas, recuperación, cálculo o integración con sistemas.
¿Qué es el Model Context Protocol?
Model Context Protocol (MCP) es un protocolo para conectar modelos o asistentes de IA con herramientas externas, fuentes de datos y servicios mediante una interfaz estandarizada. Ayuda a separar el comportamiento del modelo de la integración de herramientas y puede mejorar la portabilidad, la gobernanza y la gestión del contexto.
¿Qué es el espacio de acciones en la IA agéntica?
El espacio de acciones es el conjunto de herramientas, operaciones, permisos o movimientos disponibles para un agente al realizar una tarea. Un espacio de acciones bien delimitado debe ser suficiente para la tarea y, al mismo tiempo, limitar capacidades innecesarias que puedan aumentar errores o riesgos de gobernanza.
¿Por qué importan los permisos para los agentes de IA?
Los permisos de IAM, o gestión de identidades y accesos, son controles granulares que definen qué sujetos pueden realizar qué acciones sobre qué recursos. Suelen asignarse mediante roles a usuarios, grupos, cuentas de servicio o aplicaciones para aplicar acceso de mínimo privilegio.
¿Qué es un agente enrutador?
Un agente enrutador es un agente que clasifica una solicitud o tarea del usuario y la dirige al agente especializado, herramienta o flujo de trabajo más adecuado. Se usa en sistemas multiagente para coordinar responsabilidades y mejorar la gestión de tareas.
¿Qué es un sistema de identificación biométrica remota?
Un sistema de identificación biométrica remota es un sistema de IA usado para identificar a personas físicas sin su participación activa, normalmente a distancia. Compara los datos biométricos de una persona con datos biométricos almacenados en una base de datos de referencia.
¿Qué es la identificación biométrica remota en tiempo real?
Un sistema de identificación biométrica remota en tiempo real es un sistema en el que la captura, comparación e identificación de datos biométricos se producen sin demora significativa. La categoría incluye la identificación instantánea, así como demoras breves destinadas a evitar la elusión.
¿Qué es un sistema de reconocimiento de emociones?
Un sistema de reconocimiento de emociones es un sistema de IA destinado a identificar o inferir las emociones o intenciones de personas físicas, a menudo a partir de datos biométricos. Como estos sistemas pueden afectar la privacidad, la autonomía y la equidad, están sujetos a mayor escrutinio en contextos de gobernanza y regulación.
¿Qué es la categorización biométrica?
Un sistema de categorización biométrica es un sistema de IA que asigna personas físicas a categorías específicas sobre la base de datos biométricos.
¿Por qué el reconocimiento facial es de alto riesgo?
La tecnología de reconocimiento facial (FRT) se refiere a sistemas automatizados que identifican, verifican o categorizan a personas mediante el análisis de rasgos faciales a partir de imágenes digitales o video. Es una tecnología biométrica y puede plantear preocupaciones de privacidad, exactitud y discriminación según su uso.
¿Qué son los deepfakes en la IA biométrica?
Los deepfakes son imágenes, audio o video generados o manipulados por IA que hacen que personas, objetos, lugares, entidades o eventos parezcan auténticos cuando no lo son.
¿Qué es el aprendizaje autosupervisado?
El aprendizaje autosupervisado es un enfoque de aprendizaje automático que crea señales de entrenamiento a partir de los propios datos no etiquetados. Convierte aspectos de un problema no supervisado en aprendizaje supervisado mediante la generación de etiquetas sustitutas, lo que resulta útil cuando los datos etiquetados son escasos pero los datos no etiquetados son abundantes.
¿Qué es el aprendizaje semisupervisado?
El aprendizaje semisupervisado es un enfoque de aprendizaje automático que usa datos etiquetados y no etiquetados durante el entrenamiento. Es útil cuando los ejemplos etiquetados son costosos o limitados, pero mayores volúmenes de datos no etiquetados pueden ayudar a mejorar la representación, la clasificación o la predicción.
¿Qué son los datos de entrenamiento?
Los datos de entrenamiento son el conjunto de datos usado para enseñar o ajustar un modelo de aprendizaje automático mediante la modificación de sus parámetros aprendibles. Su calidad, cantidad, diversidad, etiquetado y procedencia influyen fuertemente en el rendimiento, la fiabilidad y la postura de cumplimiento del modelo resultante.
¿Qué es el sobreajuste?
El sobreajuste ocurre cuando un modelo aprende los datos de entrenamiento demasiado de cerca, incluido el ruido o detalles idiosincráticos, y rinde mal con datos nuevos. Suele indicarse por un alto rendimiento en entrenamiento pero un rendimiento más débil en validación o prueba.
¿Qué es el subajuste?
El subajuste ocurre cuando un modelo es demasiado simple o está insuficientemente entrenado para capturar patrones significativos en los datos. Un modelo subajustado rinde mal tanto en los datos de entrenamiento como en datos nuevos porque no ha aprendido las relaciones subyacentes necesarias para la tarea.
¿Qué es un árbol de decisión?
Un árbol de decisión es un modelo interpretable de aprendizaje supervisado que representa reglas de decisión en una estructura similar a un árbol. La inferencia sigue un camino desde un nodo raíz a través de condiciones basadas en características hasta un nodo hoja que proporciona la clase o valor predicho.
¿Qué es una red generativa antagónica?
Una red generativa antagónica (GAN) es una arquitectura de aprendizaje automático en la que un generador y un discriminador se entrenan en oposición. El generador aprende a crear muestras realistas, mientras que el discriminador aprende a distinguir muestras generadas de datos reales.
¿Qué es un deepfake?
Los deepfakes son imágenes, audio o video generados o manipulados por IA que hacen que personas, objetos, lugares, entidades o eventos parezcan auténticos cuando no lo son.
¿Qué son los medios sintéticos?
Los medios sintéticos son contenidos mediáticos generados o manipulados total o parcialmente por IA. Pueden incluir texto, imágenes, audio, video, avatares, voces y otros artefactos digitales.
¿Qué es la ingeniería de prompts?
La ingeniería de prompts es la práctica de diseñar, probar y refinar entradas para modelos de IA generativa de modo que produzcan salidas deseadas con mayor fiabilidad. Puede implicar especificar roles, restricciones, ejemplos, contexto, formato y criterios de evaluación sin cambiar los pesos subyacentes del modelo.
¿Qué es la temperatura en la IA generativa?
La temperatura es un parámetro de generación del modelo que controla la aleatoriedad de la salida de un sistema de IA. Los valores más bajos tienden a producir respuestas más enfocadas y deterministas, mientras que los valores más altos aumentan la variedad, la creatividad y el riesgo de salidas menos coherentes o menos fiables.
¿Qué es la marca de agua de IA?
La marca de agua de IA consiste en insertar identificadores visibles u ocultos en contenido generado o modificado por IA para indicar origen, procedencia o estado de generación. Las marcas de agua pueden añadirse durante la generación o después de ella y pueden requerir herramientas especializadas para detectarse.
Avanzado
¿Quién supervisa los sistemas de IA en la UE?
La Oficina de IA es la función de la Comisión Europea creada para apoyar la implementación, el seguimiento y la supervisión de los sistemas de IA, los modelos de IA de propósito general y la gobernanza de la IA dentro del marco de la UE.
¿Qué es un incidente grave bajo la gobernanza de IA?
Un incidente grave es un incidente o mal funcionamiento de un sistema de IA que causa directa o indirectamente un daño severo, como muerte, daño grave a la salud, interrupción de infraestructuras críticas, vulneración de derechos fundamentales o daños graves a la propiedad o al medio ambiente.
¿Qué es el envenenamiento de datos en sistemas de IA?
El envenenamiento de datos es un ataque adversarial en el que un actor malicioso interfiere con los datos o el proceso de entrenamiento usados para construir un modelo. Al insertar, modificar o corromper ejemplos de entrenamiento, el atacante busca manipular el comportamiento del modelo, degradar su rendimiento o crear fallos dirigidos.
¿Qué es la moderación de contenido para salidas de IA?
La moderación de contenido y los filtros de seguridad son controles diseñados para detectar, bloquear, reducir o escalar contenido dañino, ilegal o no permitido por las políticas. En los sistemas de IA, suelen combinarse con reglas de política, clasificadores basados en modelos, registros y revisión humana para casos de mayor riesgo.
¿Qué es una ficha de modelo de IA?
Una ficha de modelo de IA es un artefacto de documentación conciso que acompaña a un modelo entrenado o servicio de IA. Normalmente describe el uso previsto, limitaciones, resultados de evaluación, riesgos relevantes, contexto de datos o entrenamiento y otra información que apoya la transparencia y el despliegue responsable.
¿Qué es la transparencia en la gobernanza de IA?
La transparencia es el grado en que el propósito, el uso de datos, la operación, las limitaciones y las salidas de un sistema de IA pueden ser comprendidos o examinados por las partes interesadas pertinentes.
¿Qué es el riesgo de privacidad de los datos de entrenamiento?
Los datos de entrenamiento son el conjunto de datos utilizado para enseñar o ajustar un modelo de aprendizaje automático mediante la modificación de sus parámetros aprendibles. Su calidad, cantidad, diversidad, etiquetado y procedencia influyen fuertemente en el rendimiento, la fiabilidad y la postura de cumplimiento del modelo resultante.
¿Qué es el cifrado en la gobernanza de datos de IA?
El cifrado de datos es la transformación de datos legibles en una forma codificada que resulta ininteligible sin una clave autorizada o un proceso de descifrado. Se utiliza para proteger información sensible frente al acceso no autorizado durante el almacenamiento, la transmisión o el procesamiento.
¿Qué es la detección de anomalías en la monitorización de IA?
La detección de anomalías es el proceso de identificar observaciones, eventos o patrones que difieren significativamente del comportamiento esperado. En IA y análisis de datos, se usa para señalar valores atípicos que pueden indicar errores, fraude, incidentes de seguridad, fallos del sistema u otras condiciones inusuales.
¿Qué es la seguridad desde el diseño para sistemas de IA?
La seguridad desde el diseño es un enfoque en el que los requisitos y salvaguardas de seguridad se integran desde el inicio del desarrollo del sistema. Para sistemas de IA, incluye anticipar usos indebidos, proteger datos y modelos, e incorporar controles de acceso, monitorización y resiliencia durante todo el ciclo de vida.
¿Qué es la fundamentación en la evaluación de LLM?
La fundamentación es la propiedad de que la salida de un modelo esté respaldada por material fuente específico o por el contexto proporcionado. En la IA generativa, la fundamentación ayuda a evaluar si una respuesta es trazable a evidencia en lugar de ser generación no respaldada del modelo.
¿Qué es la tasa de afirmaciones no respaldadas?
La UCR, o tasa de afirmaciones no respaldadas, es el porcentaje de afirmaciones en una respuesta del modelo que no están fundamentadas en evidencia de apoyo. Una UCR alta indica que el sistema puede estar produciendo demasiadas afirmaciones no respaldadas o alucinadas.
¿Qué es un sistema multiagente?
Los sistemas multiagente son sistemas compuestos por varios agentes interactuantes que pueden percibir, decidir, comunicarse y actuar dentro de un entorno. Se usan para modelar resolución distribuida de problemas, coordinación, negociación, competencia y comportamiento colectivo.
¿Cómo debe gobernarse la IA agéntica?
La gobernanza de IA es el marco de políticas, procesos, roles, controles y supervisión usado para orientar el desarrollo y uso de IA durante su ciclo de vida. Busca asegurar prácticas de IA responsables, legales, seguras, transparentes y responsables dentro de una organización o jurisdicción.
¿Qué son los medios sintéticos?
Los medios sintéticos son contenidos mediáticos generados o manipulados total o parcialmente por IA. Pueden incluir texto, imágenes, audio, video, avatares, voces y otros artefactos digitales.
¿Cómo puede la IA biométrica perjudicar la equidad?
La equidad en IA se refiere al principio de que los sistemas de IA deben tratar a individuos y grupos de manera equitativa y evitar discriminación injustificada o sesgos dañinos. Implica identificar y mitigar sesgos en datos, modelos, contextos de despliegue y procesos de decisión.
¿Qué es el aprendizaje profundo?
El aprendizaje profundo es un subcampo del aprendizaje automático que usa redes neuronales con múltiples capas para aprender representaciones y patrones a partir de datos.
¿En qué se diferencian la clasificación y la regresión?
Usa clasificación cuando el objetivo es una categoría; usa regresión cuando el objetivo es un valor continuo o numérico.
¿Qué es la procedencia del contenido?
La procedencia y la marca de agua se refieren a señales que ayudan a identificar cómo se creó el contenido, de dónde provino o si fue generado o modificado por IA. Estos mecanismos apoyan la autenticidad, la confianza, la moderación, la auditabilidad y la gobernanza responsable del contenido.
¿Por qué el contenido generado necesita revisión humana?
La evaluación humana es el proceso por el cual personas juzgan la calidad, seguridad, utilidad o corrección de las salidas de un modelo. Es especialmente importante para tareas donde no hay una única respuesta correcta, como calidad de traducción, resumen, diálogo o generación creativa.