Un hub temático para sistemas que generan texto, imágenes, audio, vídeo, código y medios sintéticos, con foco en gobernanza y riesgo.
31
Términos
10
Comparaciones
8
Preguntas
Los sistemas de IA generativa producen nuevo contenido a partir de patrones aprendidos de datos e instrucciones proporcionadas en tiempo de ejecución. Este tema conecta conceptos de modelos con integridad del contenido, propiedad intelectual, seguridad, privacidad y riesgo de cumplimiento.
El contenido generado puede ser útil, engañoso, infractor, inseguro o difícil de verificar. Los equipos necesitan distinciones claras entre tipos de modelos, controles de contenido y mecanismos de evidencia.
Útil para gobernanza de marketing, revisión legal, procedencia de contenido, políticas de medios sintéticos, alfabetización en IA y controles de despliegue de IA generativa.
Conceptos centrales para sistemas que producen nuevo texto, imágenes, vídeo, audio o código.
Términos para controlar, evaluar y comprender contenido generado.
Controles y evidencia utilizados para contenido generado, autenticidad y respuesta ante uso indebido.
Una comparación lado a lado entre IA generativa y modelo de lenguaje de gran tamaño. Comprenda por qué la IA generativa es una categoría más amplia de producción de contenido, mientras que un LLM es un tipo de modelo centrado en lenguaje que suele usarse dentro de sistemas de IA generativa.
Una comparación lado a lado entre IA generativa e inteligencia artificial. Comprenda por qué la IA generativa es un subconjunto creador de contenido dentro del campo más amplio de la IA.
Comparación lado a lado entre el modelo de difusión y la red generativa adversaria. Explica en qué se diferencia la generación basada en eliminación de ruido del entrenamiento adversarial generador-discriminador.
A side-by-side comparison of Deepfakes and Synthetic Media. Understand how deceptive or authentic-looking AI-manipulated media relates to the broader category of AI-generated or AI-modified media.
Comparación lado a lado entre detección de contenido de IA y marcado de agua de IA. Explica cómo la detección probabilística de contenido generado por IA difiere de insertar identificadores que indican origen, procedencia o estado de generación.
A side-by-side comparison of [AI] Detectors and [AI] Watermarking. Understand how post-hoc detection differs from embedding identifiers that indicate content origin or generation status.
Una comparación lado a lado de Temperatura y Determinista. Entienda cómo a generación parámetro controlling aleatoriedad relates a sistemas que producir el same salida para el same entrada y state.
Comparación lado a lado entre alucinación y desinformación. Explica cómo los resultados falsos o fabricados de IA difieren de la información falsa o engañosa compartida con independencia de la intención.
Comparación lado a lado entre alucinación y confabulación. Entienda cómo ambos describen salidas de IA plausibles pero no respaldadas o fabricadas, y por qué alucinación suele usarse como término operativo más amplio.
Comparación lado a lado entre Procedencia / marca de agua y Coalición para la Procedencia y Autenticidad del Contenido (C2PA). Explica las diferencias clave, cuándo usar cada concepto y qué implica la distinción para la gobernanza, el diseño del sistema o la evidencia de aseguramiento de IA.
Una red generativa antagónica (GAN) es una arquitectura de aprendizaje automático en la que un generador y un discriminador se entrenan en oposición. El generador aprende a crear muestras realistas, mientras que el discriminador aprende a distinguir muestras generadas de datos reales.
Los deepfakes son imágenes, audio o video generados o manipulados por IA que hacen que personas, objetos, lugares, entidades o eventos parezcan auténticos cuando no lo son.
Los medios sintéticos son contenidos mediáticos generados o manipulados total o parcialmente por IA. Pueden incluir texto, imágenes, audio, video, avatares, voces y otros artefactos digitales.
La ingeniería de prompts es la práctica de diseñar, probar y refinar entradas para modelos de IA generativa de modo que produzcan salidas deseadas con mayor fiabilidad. Puede implicar especificar roles, restricciones, ejemplos, contexto, formato y criterios de evaluación sin cambiar los pesos subyacentes del modelo.
La temperatura es un parámetro de generación del modelo que controla la aleatoriedad de la salida de un sistema de IA. Los valores más bajos tienden a producir respuestas más enfocadas y deterministas, mientras que los valores más altos aumentan la variedad, la creatividad y el riesgo de salidas menos coherentes o menos fiables.
La marca de agua de IA consiste en insertar identificadores visibles u ocultos en contenido generado o modificado por IA para indicar origen, procedencia o estado de generación. Las marcas de agua pueden añadirse durante la generación o después de ella y pueden requerir herramientas especializadas para detectarse.
La procedencia y la marca de agua se refieren a señales que ayudan a identificar cómo se creó el contenido, de dónde provino o si fue generado o modificado por IA. Estos mecanismos apoyan la autenticidad, la confianza, la moderación, la auditabilidad y la gobernanza responsable del contenido.
La evaluación humana es el proceso por el cual personas juzgan la calidad, seguridad, utilidad o corrección de las salidas de un modelo. Es especialmente importante para tareas donde no hay una única respuesta correcta, como calidad de traducción, resumen, diálogo o generación creativa.