Un hub thématique pour les systèmes qui génèrent du texte, des images, de l’audio, de la vidéo, du code et des médias synthétiques, avec un focus sur la gouvernance et le risque.
31
Termes
10
Comparaisons
8
Questions
Les systèmes d’IA générative produisent de nouveaux contenus à partir de motifs appris dans les données et d’instructions fournies au moment de l’usage. Ce thème relie les concepts de modèles à l’intégrité des contenus, à la propriété intellectuelle, à la sécurité, à la protection des données et au risque de conformité.
Les contenus générés peuvent être utiles, trompeurs, contrefaisants, dangereux ou difficiles à vérifier. Les équipes ont besoin de distinctions claires entre types de modèles, contrôles de contenu et mécanismes de preuve.
Utile pour la gouvernance marketing, la revue juridique, la provenance des contenus, les politiques relatives aux médias synthétiques, l’acculturation à l’IA et les contrôles de déploiement de l’IA générative.
Concepts centraux pour les systèmes qui produisent de nouveaux textes, images, vidéos, audios ou codes.
Termes permettant de contrôler, d’évaluer et de comprendre les contenus générés.
Contrôles et preuves utilisés pour les contenus générés, l’authenticité et la réponse aux détournements.
Comparaison côte à côte entre l’IA générative et le grand modèle de langage. Comprendre pourquoi l’IA générative est une catégorie plus large de production de contenu, tandis qu’un LLM est un type de modèle centré sur le langage souvent utilisé dans les systèmes d’IA générative.
Comparaison côte à côte entre l’IA générative et l’intelligence artificielle. Comprendre pourquoi l’IA générative est un sous-ensemble créateur de contenu au sein du champ plus large de l’IA.
Comparaison côte à côte entre le modèle de diffusion et le réseau antagoniste génératif. Elle explique en quoi la génération par débruitage diffère de l’entraînement adversarial générateur-discriminateur.
Comparaison côte à côte des deepfakes et des médias synthétiques. Comprenez comment les médias manipulés par IA, trompeurs ou d’apparence authentique, se rapportent à la catégorie plus large des médias générés ou modifiés par IA.
Comparaison côte à côte de la détection de contenu IA et du filigranage IA. Elle explique comment la détection probabiliste de contenu généré par l’IA diffère de l’intégration d’identifiants indiquant l’origine, la provenance ou le statut de génération.
Comparaison côte à côte des détecteurs d’IA et du filigranage IA. Comprenez en quoi la détection a posteriori diffère de l’intégration d’identifiants indiquant l’origine ou le statut de génération du contenu.
Comparaison côte à côte de la température et du déterminisme. Comprenez comment un paramètre de génération contrôlant l’aléa se rapporte aux systèmes qui produisent la même sortie pour la même entrée et le même état.
Comparaison côte à côte entre hallucination et information erronée. Elle explique en quoi les sorties d’IA fausses ou fabriquées diffèrent des informations fausses ou trompeuses partagées indépendamment de l’intention.
Comparaison côte à côte de l’hallucination et de la confabulation. Comprendre comment les deux décrivent des sorties d’IA plausibles mais non étayées ou fabriquées, et pourquoi hallucination est souvent le terme opérationnel plus large.
Comparaison côte à côte de Provenance / Watermarking et de la Coalition for Content Provenance and Authenticity (C2PA). Elle explique en quoi les concepts diffèrent, quand chaque terme s’applique et pourquoi cette distinction compte pour la gouvernance, l’évaluation ou la conception des systèmes d’IA.
Un réseau antagoniste génératif (GAN) est une architecture d’apprentissage automatique dans laquelle un générateur et un discriminateur sont entraînés en opposition. Le générateur apprend à créer des échantillons réalistes, tandis que le discriminateur apprend à distinguer les échantillons générés des données réelles.
Les deepfakes sont des images, sons ou vidéos générés ou manipulés par l’IA qui font paraître authentiques des personnes, objets, lieux, entités ou événements alors qu’ils ne le sont pas.
Un média synthétique est un contenu médiatique entièrement ou partiellement généré ou manipulé par l’IA. Il peut inclure du texte, des images, de l’audio, de la vidéo, des avatars, des voix et d’autres artefacts numériques.
L’ingénierie de prompt est la pratique consistant à concevoir, tester et affiner les entrées des modèles d’IA générative afin qu’ils produisent plus fiablement les sorties souhaitées. Elle peut impliquer de préciser les rôles, contraintes, exemples, contexte, format et critères d’évaluation sans modifier les poids sous-jacents du modèle.
La température est un paramètre de génération du modèle qui contrôle le caractère aléatoire de la sortie d’un système d’IA. Des valeurs plus faibles tendent à produire des réponses plus ciblées et déterministes, tandis que des valeurs plus élevées augmentent la variété, la créativité et le risque de sorties moins cohérentes ou moins fiables.
Le filigranage de l’IA est l’intégration d’identifiants visibles ou cachés dans du contenu généré ou modifié par l’IA afin d’indiquer son origine, sa provenance ou son statut de génération. Les filigranes peuvent être ajoutés pendant ou après la génération et peuvent nécessiter des outils spécialisés pour être détectés.
La provenance et le filigranage désignent des signaux qui aident à identifier comment un contenu a été créé, d’où il vient ou s’il a été généré ou modifié par l’IA. Ces mécanismes soutiennent l’authenticité, la confiance, la modération, l’auditabilité et une gouvernance responsable du contenu.
L’évaluation humaine est le processus par lequel des personnes jugent la qualité, la sécurité, l’utilité ou l’exactitude des sorties d’un modèle. Elle est particulièrement importante pour les tâches où il n’existe pas une seule bonne réponse, comme la qualité de traduction, le résumé, le dialogue ou la génération créative.