El usuario quiere comprender los modelos de difusión en el contexto de IA generativa y aplicarlos a trabajos prácticos de gobernanza o cumplimiento de IA.
Un modelo de difusión es un modelo generativo entrenado para revertir un proceso que añade ruido gradualmente a los datos. Al aprender a eliminar ruido desde ruido aleatorio hacia una distribución objetivo de datos, puede generar imágenes, audio, representaciones de texto u otras salidas realistas.
Un modelo de difusión es un modelo generativo entrenado para crear datos aprendiendo a revertir un proceso gradual de ruido. Durante el entrenamiento, se añade ruido a ejemplos como imágenes, audio u otros datos. El modelo aprende a eliminar el ruido paso a paso, de modo que la generación puede empezar desde ruido aleatorio y avanzar hacia una salida realista. En Caesar AI Atlas, esta página conecta diffusion-model, generative-adversarial-network y generative-model porque los modelos de difusión son una familia principal de modelos generativos, mientras que las GAN son otra. Los modelos de difusión se asocian ampliamente con la generación de imágenes, pero técnicas relacionadas también pueden aplicarse a audio, video, activos 3D y datos científicos. Sus cuestiones de gobernanza incluyen derechos sobre datos de entrenamiento, contenido dañino o engañoso, procedencia, datos biométricos o personales en salidas, marcas de agua y uso indebido para medios sintéticos.
Un modelo de difusión funciona un poco como restaurar una imagen borrosa o con ruido, salvo que aprende tan bien el proceso de restauración que puede empezar desde ruido puro y crear una imagen nueva. El usuario da un prompt, el sistema comienza con aleatoriedad y el modelo va dando forma gradualmente a esa aleatoriedad hasta algo que coincide con el prompt. El resultado no se copia como un único archivo almacenado, pero aun así puede reflejar patrones, estilos, personas o material protegido presente en los datos de entrenamiento.
Analogía
Un modelo de difusión es como un artista que empieza con estática en un lienzo y la afina repetidamente hasta que aparece una escena.
Los modelos de difusión importan porque impulsan muchos sistemas de generación de imágenes y medios de alta calidad. Pueden apoyar diseño, publicidad, educación, entretenimiento, prototipado y accesibilidad, pero también pueden crear deepfakes, evidencia engañosa, semejanzas no consentidas, estilos infractores o contenido sintético que los usuarios confundan con la realidad. En términos de gobernanza, las salidas de difusión necesitan política de contenido, procedencia, divulgación al usuario, revisión de datasets y controles de uso indebido. Bajo la Ley de IA de la UE y debates relacionados de transparencia, los medios sintéticos y el contenido generado por IA deben tratarse como cuestiones de diseño y cumplimiento, no solo como funciones creativas.
Urgencia
Revisar el uso de modelos de difusión antes de permitir generación pública, cargas de usuarios, generación de semejanzas biométricas o publicación de cara al cliente.
Una revisión práctica debe identificar el proveedor del modelo, divulgaciones sobre datos de entrenamiento, contenido permitido, contenido bloqueado, controles de prompts de usuario, etiquetado de salidas, opciones de marca de agua o procedencia, reglas de conservación y proceso de escalado para salidas dañinas. Si el sistema puede generar personas realistas, voces, documentos, logotipos, imágenes médicas o materiales similares a evidencia, la gobernanza debe ser más estricta. Los equipos también deben probar contenido prohibido, sesgo demográfico, salidas sensibles a propiedad intelectual e intentos de eludir filtros de seguridad.
Los equipos suelen tratar los modelos de difusión como herramientas creativas inofensivas porque las salidas son visuales. El riesgo aumenta cuando las salidas parecen realistas, se parecen a personas reales, imitan marcas o estilos protegidos, o se usan en contextos regulados o probatorios.
Error 1: Permitir la generación de semejanzas humanas realistas sin controles de consentimiento puede crear riesgos de privacidad, biometría y reputación.
Error 2: Publicar imágenes generadas sin procedencia o revisión puede engañar a usuarios y exponer a la organización a reclamaciones de propiedad intelectual o desinformación.
Esta página vincula modelos de difusión con redes generativas adversariales y modelos generativos. También respalda la comparación con GAN y conecta con páginas sobre modelos de lenguaje grandes, IA generativa, medios sintéticos y gobernanza de contenido generado por IA.