Intermédiaire
Quand un système d’IA est-il mis sur le marché ?
La mise sur le marché désigne la première mise à disposition d’un système d’IA ou d’un modèle d’IA à usage général sur le marché de l’UE. Ce terme est important, car certaines obligations réglementaires s’appliquent à ce moment ou avant celui-ci.
Quel est l’objectif prévu d’un système d’IA ?
L’objectif prévu est l’usage pour lequel un système d’IA est conçu, commercialisé ou déployé par son fournisseur. Il définit le contexte attendu, les utilisateurs, les fonctions, les sorties et les limites, et il est central pour la classification des risques, la conformité et la responsabilité.
Qu’est-ce qu’un mauvais usage raisonnablement prévisible ?
Un mauvais usage raisonnablement prévisible est l’utilisation d’un système d’IA en dehors de son objectif prévu, mais d’une manière qui peut tout de même être anticipée à partir du comportement humain ou de l’interaction avec d’autres systèmes.
Qu’est-ce que le marquage CE pour les systèmes d’IA ?
Le marquage CE est une marque de conformité indiquant qu’un produit ou un système d’IA respecte les exigences applicables du droit de l’Union européenne. Pour les systèmes d’IA, il signale que le fournisseur a évalué la conformité aux obligations légales applicables au système.
Qu’est-ce que l’IA à usage général ?
L’IA à usage général (GPAI) désigne des modèles ou systèmes d’IA pouvant être adaptés à un large éventail de tâches et d’applications. Les modèles de fondation en sont un exemple courant, par opposition aux systèmes d’IA étroits conçus pour une tâche spécifique.
Qu’est-ce que le risque systémique dans la GPAI ?
Le risque systémique est un risque associé aux capacités à fort impact des modèles d’IA à usage général, susceptibles de produire des effets significatifs sur les marchés, la société, la santé publique, la sûreté, la sécurité ou les droits fondamentaux.
Pourquoi le RAG peut-il créer des risques pour la vie privée et la sécurité ?
La génération augmentée par récupération (RAG) est une technique qui combine l’IA générative avec la récupération d’informations depuis des sources de données externes. Le modèle utilise des documents, passages ou enregistrements récupérés comme contexte d’ancrage pour produire des réponses plus actuelles, spécifiques et vérifiables.
Que sont les garde-fous dans un système LLM ?
Les garde-fous sont des contrôles techniques, procéduraux ou de politique conçus pour maintenir les systèmes d’IA dans des limites acceptables. Ils peuvent réduire des risques tels que les sorties nuisibles, les fuites de données, les accès non autorisés, les violations de politiques ou les comportements dangereux.
Qu’est-ce que l’ancrage dans l’IA générative ?
L’ancrage est le processus qui consiste à relier la sortie d’un modèle d’IA à des sources d’information fiables et vérifiables au moment de l’inférence. Dans l’IA générative, il contribue à améliorer la fiabilité factuelle en fournissant un contexte pertinent sans modifier les poids sous-jacents du modèle.
Qu’est-ce qu’une hallucination dans un système d’IA ?
Une hallucination est une sortie générée par l’IA qui semble plausible ou confiante, mais qui est fausse, non étayée, trompeuse ou fabriquée. Dans l’IA générative, les hallucinations peuvent inclure des faits incorrects, des sources inventées, de fausses citations ou un raisonnement qui n’est pas ancré dans des preuves fiables.
En quoi un prompt système diffère-t-il d’un prompt utilisateur ?
Utilisez le prompt système pour les instructions et contraintes durables de l’application ; utilisez le prompt utilisateur pour la demande immédiate de l’utilisateur, son contexte et le résultat souhaité.
Qu’est-ce que le red teaming pour les LLM ?
Le red teaming est un processus structuré de test adversarial utilisé pour identifier les faiblesses, les comportements dangereux ou les sorties nuisibles d’un système d’IA. Il consiste à sonder délibérément le système avec des entrées difficiles, malveillantes ou limites afin que les développeurs puissent évaluer et améliorer les protections.
En quoi l’évaluation des risques liés à l’IA diffère-t-elle d’un audit de l’IA ?
Utilisez l’évaluation des risques liés à l’IA pour identifier et gérer les risques ; utilisez l’audit de l’IA pour évaluer les preuves, les contrôles ou les déclarations au regard de critères définis.
Qu’est-ce que l’assurance de l’IA ?
L’assurance de l’IA désigne l’ensemble des pratiques qui fournissent une confiance justifiée dans le fait qu’un système d’IA fonctionne comme prévu dans son contexte opérationnel.
Qu’est-ce que le shadow AI ?
Le shadow AI désigne l’utilisation d’outils ou de systèmes d’IA sans approbation, supervision ou gouvernance formelle de la part d’une organisation. Il crée des risques liés aux fuites de données, à la conformité, à la sécurité et à l’incohérence des décisions, et se gère généralement par des politiques, des alternatives approuvées, la formation et la surveillance.
Qu’est-ce qu’une politique d’utilisation de l’IA ?
Une politique d’utilisation de l’IA est un document interne de gouvernance qui définit comment les outils et systèmes d’IA peuvent être utilisés au sein d’une organisation. Elle couvre généralement les usages acceptables et interdits, les rôles et responsabilités, le traitement des données, les exigences d’approbation, la surveillance et l’escalade des incidents.
Qu’est-ce que la diligence raisonnable des fournisseurs pour l’IA ?
La diligence raisonnable des fournisseurs d’IA est l’évaluation des produits ou fournisseurs d’IA tiers au regard des risques de sécurité, de confidentialité, de fiabilité, de gouvernance et de conformité. Elle aide les organisations à décider si, et comment, un fournisseur peut être approuvé, acheté, surveillé ou restreint en toute sécurité.
Qu’est-ce que la responsabilité algorithmique ?
La responsabilité algorithmique désigne la responsabilité liée à la conception, au fonctionnement, aux décisions et aux impacts des systèmes algorithmiques. Elle implique la transparence, la traçabilité, la supervision et des mécanismes permettant d’expliquer, de contester ou de réparer les résultats préjudiciables.
En quoi la pseudonymisation diffère-t-elle de l’anonymisation ?
Utilisez l’anonymisation ou la désidentification lorsque vous parlez de réduction ou de suppression de l’identifiabilité ; utilisez la pseudonymisation lorsque les données personnelles peuvent encore être attribuées à une personne à l’aide d’informations supplémentaires protégées.
Qu’est-ce que la confidentialité différentielle ?
Utilisez l’anonymisation des données lorsque vous modifiez des données pour réduire l’identifiabilité ; utilisez la confidentialité différentielle lorsque vous limitez les inférences individuelles à partir des sorties au moyen d’un cadre de protection de la vie privée.
Les données synthétiques peuvent-elles encore créer un risque pour la vie privée ?
Les données synthétiques sont des données générées artificiellement, conçues pour ressembler à certains motifs, structures ou propriétés statistiques de données réelles.
Qu’est-ce que la provenance des données ?
La provenance des données est l’historique enregistré des données, notamment leur origine, leur création, leurs transformations, leurs déplacements et leurs changements au fil du temps. Dans la gouvernance de l’IA, la provenance aide à vérifier la lignée des jeux de données, à évaluer leur fiabilité, à soutenir les audits et à comprendre comment du contenu numérique ou des entrées de modèle ont été produits.
Qu’est-ce que la résidence des données en IA ?
La résidence et la souveraineté des données concernent l’endroit où les données sont stockées, traitées et gouvernées, ainsi que les régimes juridiques qui s’y appliquent. Pour les usages d’IA réglementés, ces concepts influencent le choix des régions cloud, les transferts transfrontaliers, les contrôles contractuels et la conformité aux exigences sectorielles ou nationales.
Comment le RGPD et l’AI Act de l’UE se recoupent-ils ?
Utilisez le RGPD lorsque la question porte sur le traitement de données personnelles ; utilisez l’AI Act de l’UE lorsque la question porte sur la catégorie de risque du système d’IA, la sécurité, la transparence, la gouvernance ou les obligations de conformité.
En quoi la dérive des données diffère-t-elle de la dérive de concept ?
Utilisez la dérive des données lorsque la distribution des données d’entrée change ; utilisez la dérive de concept lorsque la relation entre les entrées et le résultat cible change.
Qu’est-ce que l’alignement dans la sécurité de l’IA ?
L’alignement est la pratique consistant à concevoir, entraîner et gouverner un système d’IA de manière à ce que ses objectifs, ses sorties et son comportement restent cohérents avec les intentions humaines, les valeurs et les contraintes d’usage acceptable.
Qu’est-ce qu’un incident grave d’IA ?
Un incident d’IA est un événement ou une série d’événements dans lesquels le développement, le déploiement, l’utilisation ou le dysfonctionnement d’un système d’IA cause ou pourrait causer un préjudice. Ce préjudice peut concerner la sécurité, la discrimination, la confidentialité, la conformité juridique, les infrastructures critiques, les biens, les communautés ou l’environnement.
Qu’est-ce que le contrôle humain dans la boucle ?
HITL, ou humain dans la boucle, est une approche dans laquelle les personnes restent impliquées dans l’orientation, la revue, l’approbation ou l’amélioration des sorties ou décisions d’un système d’IA. Elle est utilisée pour combiner l’efficacité de la machine avec le jugement humain, en particulier dans les tâches à risque plus élevé ou sensibles au contexte.
Qu’est-ce que la toxicité de l’IA ?
La toxicité de l’IA désigne les sorties nuisibles, offensantes, fausses, biaisées ou autrement inappropriées générées ou amplifiées par un système d’IA. Elle peut provenir des données d’entraînement, de la conception du système, du contexte du prompt, d’un mauvais alignement ou de protections insuffisantes.
Pourquoi le suivi après commercialisation est-il important ?
Un système de suivi après commercialisation comprend les activités des fournisseurs de systèmes d’IA visant à collecter et examiner l’expérience issue des systèmes mis sur le marché ou mis en service. Son objectif est d’identifier si une action corrective ou préventive est nécessaire après le déploiement.
Qu’est-ce qu’un score F1 ?
Le score F1 est la moyenne harmonique de la précision et du rappel, utilisée pour évaluer les performances de classification et d’extraction d’informations. Il va de 0 à 1, les valeurs plus élevées indiquant un meilleur équilibre entre les positifs correctement identifiés et les positifs manqués.
En quoi les faux positifs et les faux négatifs sont-ils différents ?
Utilisez faux positif pour un signalement positif incorrect ; utilisez faux négatif pour une absence incorrecte de détection d’une condition réellement positive.
Qu’est-ce qu’un seuil de classification ?
Un seuil de classification est une valeur limite choisie pour convertir le score ou la probabilité d’un modèle en prédiction de classe. Modifier le seuil peut changer l’équilibre entre faux positifs et faux négatifs, ce qui fait du choix du seuil une décision importante de gouvernance et de performance.
Qu’est-ce que les données de validation ?
Les données de validation sont des données utilisées pour évaluer un modèle pendant le développement et ajuster des choix tels que les hyperparamètres, les seuils ou les processus d’apprentissage. Elles doivent être distinctes des données d’entraînement et de test afin d’aider à détecter le sous-apprentissage, le surapprentissage et les problèmes de généralisation.
Qu’est-ce qu’un jeu de test ?
Un jeu de test est un jeu de données réservé utilisé pour fournir une évaluation indépendante d’un modèle entraîné ou d’un système d’IA. Il doit être séparé des données d’entraînement et de validation afin que les estimations de performance reflètent mieux le comportement sur des données inédites avant le déploiement ou la publication.
Qu’est-ce que la surveillance des modèles ?
La surveillance des modèles est l’observation continue des performances, entrées, sorties, dérives, erreurs, latence et santé opérationnelle d’un modèle déployé. Elle aide à détecter la dégradation, les mauvais usages, les biais, les problèmes de sécurité et les conditions nécessitant un réentraînement ou une intervention.
Qu’est-ce que l’orchestration de l’IA ?
L’orchestration de l’IA est la coordination et le routage des tâches d’IA, des flux de travail, des appels de modèles, des outils et des agents au sein d’un système. Elle aide à décomposer les processus complexes en étapes gérables et à les attribuer aux modèles, sous-agents ou composants d’automatisation appropriés.
Qu’est-ce que l’appel de fonctions dans les agents d’IA ?
L’appel de fonctions est une capacité qui permet à un modèle de langage d’invoquer des outils externes, des API ou des fonctions prédéfinies. Il étend le comportement du modèle au-delà de la génération de texte en permettant des actions structurées, la récupération d’informations, le calcul ou l’intégration système.
Qu’est-ce que le Model Context Protocol ?
Le Model Context Protocol (MCP) est un protocole permettant de connecter des modèles ou assistants d’IA à des outils, sources de données et services externes via une interface standardisée. Il aide à séparer le comportement du modèle de l’intégration des outils et peut améliorer la portabilité, la gouvernance et la gestion du contexte.
Qu’est-ce que l’espace d’action dans l’IA agentique ?
L’espace d’action est l’ensemble des outils, opérations, permissions ou mouvements disponibles pour un agent lorsqu’il exécute une tâche. Un espace d’action bien délimité doit être suffisant pour la tâche tout en limitant les capacités inutiles susceptibles d’augmenter les erreurs ou les risques de gouvernance.
Pourquoi les permissions sont-elles importantes pour les agents d’IA ?
Les permissions IAM, ou gestion des identités et des accès, sont des contrôles d’accès granulaires qui définissent quels principaux peuvent effectuer quelles actions sur quelles ressources. Elles sont généralement attribuées via des rôles à des utilisateurs, groupes, comptes de service ou applications afin d’appliquer l’accès selon le principe du moindre privilège.
Qu’est-ce qu’un agent routeur ?
Un agent routeur est un agent qui classe une demande utilisateur ou une tâche et la dirige vers l’agent spécialisé, l’outil ou le flux de travail le plus approprié. Il est utilisé dans les systèmes multi-agents pour coordonner les responsabilités et améliorer le traitement des tâches.
Qu’est-ce qu’un système d’identification biométrique à distance ?
Un système d’identification biométrique à distance est un système d’IA utilisé pour identifier des personnes physiques sans leur participation active, généralement à distance. Il compare les données biométriques d’une personne avec des données biométriques stockées dans une base de référence.
Qu’est-ce que l’identification biométrique à distance en temps réel ?
Un système d’identification biométrique à distance en temps réel est un système dans lequel la capture, la comparaison et l’identification des données biométriques se produisent sans délai significatif. La catégorie inclut l’identification instantanée ainsi que les courts délais destinés à empêcher le contournement.
Qu’est-ce qu’un système de reconnaissance des émotions ?
Un système de reconnaissance des émotions est un système d’IA destiné à identifier ou inférer les émotions ou intentions de personnes physiques, souvent à partir de données biométriques. Comme ces systèmes peuvent affecter la vie privée, l’autonomie et l’équité, ils font l’objet d’un examen renforcé dans les contextes de gouvernance et de réglementation.
Qu’est-ce que la catégorisation biométrique ?
Un système de catégorisation biométrique est un système d’IA qui attribue des personnes physiques à des catégories spécifiques sur la base de données biométriques.
Pourquoi la reconnaissance faciale est-elle à haut risque ?
La technologie de reconnaissance faciale (FRT) désigne les systèmes automatisés qui identifient, vérifient ou catégorisent des personnes en analysant les traits du visage à partir d’images numériques ou de vidéos. C’est une technologie biométrique qui peut soulever des préoccupations de confidentialité, d’exactitude et de discrimination selon son usage.
Que sont les deepfakes dans l’IA biométrique ?
Les deepfakes sont des images, sons ou vidéos générés ou manipulés par l’IA qui font paraître authentiques des personnes, objets, lieux, entités ou événements alors qu’ils ne le sont pas.
Qu’est-ce que l’apprentissage auto-supervisé ?
L’apprentissage auto-supervisé est une approche d’apprentissage automatique qui crée des signaux d’entraînement à partir des données non étiquetées elles-mêmes. Il convertit certains aspects d’un problème non supervisé en apprentissage supervisé en générant des étiquettes de substitution, ce qui le rend utile lorsque les données étiquetées sont rares mais que les données non étiquetées sont abondantes.
Qu’est-ce que l’apprentissage semi-supervisé ?
L’apprentissage semi-supervisé est une approche d’apprentissage automatique qui utilise à la fois des données étiquetées et non étiquetées pendant l’entraînement. Il est utile lorsque les exemples étiquetés sont coûteux ou limités, mais que des volumes plus importants de données non étiquetées peuvent aider à améliorer la représentation, la classification ou la prédiction.
Qu’est-ce que les données d’entraînement ?
Les données d’entraînement sont le jeu de données utilisé pour enseigner ou ajuster un modèle d’apprentissage automatique en modifiant ses paramètres apprenables. Leur qualité, quantité, diversité, étiquetage et provenance influencent fortement les performances, la fiabilité et la posture de conformité du modèle obtenu.
Qu’est-ce que le surapprentissage ?
Le surapprentissage se produit lorsqu’un modèle apprend les données d’entraînement de trop près, y compris le bruit ou les détails idiosyncratiques, et fonctionne mal sur de nouvelles données. Il est généralement indiqué par de très bonnes performances à l’entraînement, mais des performances plus faibles en validation ou en test.
Qu’est-ce que le sous-apprentissage ?
Le sous-apprentissage se produit lorsqu’un modèle est trop simple ou insuffisamment entraîné pour capturer des motifs significatifs dans les données. Un modèle sous-appris fonctionne mal à la fois sur les données d’entraînement et sur les nouvelles données, car il n’a pas appris les relations sous-jacentes nécessaires à la tâche.
Qu’est-ce qu’un arbre de décision ?
Un arbre de décision est un modèle d’apprentissage supervisé interprétable qui représente les règles de décision sous forme d’arbre. L’inférence suit un chemin depuis un nœud racine, à travers des conditions fondées sur les caractéristiques, jusqu’à une feuille qui fournit la classe ou la valeur prédite.
Qu’est-ce qu’un réseau antagoniste génératif ?
Un réseau antagoniste génératif (GAN) est une architecture d’apprentissage automatique dans laquelle un générateur et un discriminateur sont entraînés en opposition. Le générateur apprend à créer des échantillons réalistes, tandis que le discriminateur apprend à distinguer les échantillons générés des données réelles.
Qu’est-ce qu’un deepfake ?
Les deepfakes sont des images, sons ou vidéos générés ou manipulés par l’IA qui font paraître authentiques des personnes, objets, lieux, entités ou événements alors qu’ils ne le sont pas.
Qu’est-ce qu’un média synthétique ?
Un média synthétique est un contenu médiatique entièrement ou partiellement généré ou manipulé par l’IA. Il peut inclure du texte, des images, de l’audio, de la vidéo, des avatars, des voix et d’autres artefacts numériques.
Qu’est-ce que l’ingénierie de prompt ?
L’ingénierie de prompt est la pratique consistant à concevoir, tester et affiner les entrées des modèles d’IA générative afin qu’ils produisent plus fiablement les sorties souhaitées. Elle peut impliquer de préciser les rôles, contraintes, exemples, contexte, format et critères d’évaluation sans modifier les poids sous-jacents du modèle.
Qu’est-ce que la température dans l’IA générative ?
La température est un paramètre de génération du modèle qui contrôle le caractère aléatoire de la sortie d’un système d’IA. Des valeurs plus faibles tendent à produire des réponses plus ciblées et déterministes, tandis que des valeurs plus élevées augmentent la variété, la créativité et le risque de sorties moins cohérentes ou moins fiables.
Qu’est-ce que le filigranage de l’IA ?
Le filigranage de l’IA est l’intégration d’identifiants visibles ou cachés dans du contenu généré ou modifié par l’IA afin d’indiquer son origine, sa provenance ou son statut de génération. Les filigranes peuvent être ajoutés pendant ou après la génération et peuvent nécessiter des outils spécialisés pour être détectés.
Avancé
Qui supervise les systèmes d’IA dans l’UE ?
Le Bureau de l’IA est la fonction de la Commission européenne créée pour soutenir la mise en œuvre, le suivi et la supervision des systèmes d’IA, des modèles d’IA à usage général et de la gouvernance de l’IA dans le cadre européen de l’IA.
Qu’est-ce qu’un incident grave dans la gouvernance de l’IA ?
Un incident grave est un incident ou dysfonctionnement d’un système d’IA qui cause directement ou indirectement un préjudice sévère, comme un décès, une atteinte grave à la santé, une perturbation d’infrastructure critique, une violation des droits fondamentaux ou des dommages importants aux biens ou à l’environnement.
Qu’est-ce que l’empoisonnement des données dans les systèmes d’IA ?
L’empoisonnement des données est une attaque adversariale dans laquelle un acteur malveillant interfère avec les données ou le processus d’entraînement utilisés pour construire un modèle. En insérant, modifiant ou corrompant des exemples d’entraînement, l’attaquant cherche à manipuler le comportement du modèle, à dégrader ses performances ou à créer des défaillances ciblées.
Qu’est-ce que la modération du contenu pour les sorties d’IA ?
La modération du contenu et les filtres de sécurité sont des contrôles conçus pour détecter, bloquer, réduire ou escalader les contenus nuisibles, illégaux ou interdits par les politiques. Dans les systèmes d’IA, ils sont souvent combinés à des règles de politique, des classificateurs basés sur des modèles, une journalisation et une revue humaine pour les cas à plus haut risque.
Qu’est-ce qu’une fiche de modèle d’IA ?
Une fiche de modèle d’IA est un document de synthèse qui accompagne un modèle entraîné ou un service d’IA. Elle décrit généralement l’usage prévu, les limites, les résultats d’évaluation, les risques pertinents, le contexte des données ou de l’entraînement et d’autres informations utiles à la transparence et au déploiement responsable.
Qu’est-ce que la transparence dans la gouvernance de l’IA ?
La transparence est le degré auquel l’objectif, l’utilisation des données, le fonctionnement, les limites et les sorties d’un système d’IA peuvent être compris ou examinés par les parties prenantes concernées.
Qu’est-ce que le risque de confidentialité des données d’entraînement ?
Les données d’entraînement sont le jeu de données utilisé pour enseigner ou ajuster un modèle d’apprentissage automatique en modifiant ses paramètres apprenables. Leur qualité, quantité, diversité, étiquetage et provenance influencent fortement les performances, la fiabilité et la posture de conformité du modèle obtenu.
Qu’est-ce que le chiffrement dans la gouvernance des données d’IA ?
Le chiffrement des données est la transformation de données lisibles en une forme encodée, inintelligible sans clé autorisée ou processus de déchiffrement. Il est utilisé pour protéger les informations sensibles contre les accès non autorisés pendant le stockage, la transmission ou le traitement.
Qu’est-ce que la détection d’anomalies dans la surveillance de l’IA ?
La détection d’anomalies est le processus d’identification d’observations, d’événements ou de motifs qui diffèrent fortement du comportement attendu. En IA et en analyse de données, elle sert à signaler des valeurs aberrantes pouvant indiquer des erreurs, fraudes, incidents de sécurité, défaillances système ou autres conditions inhabituelles.
Qu’est-ce que la sécurité dès la conception pour les systèmes d’IA ?
La sécurité dès la conception est une approche dans laquelle les exigences et protections de sécurité sont intégrées dès le début du développement du système. Pour les systèmes d’IA, cela inclut l’anticipation des mauvais usages, la protection des données et des modèles, ainsi que l’intégration des contrôles d’accès, de la surveillance et de la résilience tout au long du cycle de vie.
Qu’est-ce que l’ancrage des réponses dans l’évaluation des LLM ?
L’ancrage des réponses est la propriété d’une sortie de modèle consistant à être soutenue par un matériau source précis ou par le contexte fourni. Dans l’IA générative, il aide à évaluer si une réponse est traçable à des preuves plutôt qu’à une génération non étayée du modèle.
Qu’est-ce que le taux d’affirmations non étayées ?
L’UCR, ou taux d’affirmations non étayées, est le pourcentage d’affirmations dans une réponse de modèle qui ne sont pas ancrées dans des preuves de soutien. Un UCR élevé indique que le système peut produire trop d’affirmations non étayées ou hallucinées.
Qu’est-ce qu’un système multi-agents ?
Les systèmes multi-agents sont des systèmes composés de plusieurs agents en interaction, capables de percevoir, décider, communiquer et agir dans un environnement. Ils sont utilisés pour modéliser la résolution distribuée de problèmes, la coordination, la négociation, la compétition et le comportement collectif.
Comment l’IA agentique doit-elle être gouvernée ?
La gouvernance de l’IA est le cadre de politiques, processus, rôles, contrôles et supervision utilisé pour orienter le développement et l’usage de l’IA tout au long de son cycle de vie. Elle vise à garantir une pratique de l’IA responsable, licite, sécurisée, transparente et responsable au sein d’une organisation ou d’une juridiction.
Qu’est-ce qu’un média synthétique ?
Un média synthétique est un contenu médiatique entièrement ou partiellement généré ou manipulé par l’IA. Il peut inclure du texte, des images, de l’audio, de la vidéo, des avatars, des voix et d’autres artefacts numériques.
Comment l’IA biométrique peut-elle nuire à l’équité ?
L’équité en IA désigne le principe selon lequel les systèmes d’IA doivent traiter les personnes et les groupes de manière équitable et éviter la discrimination injustifiée ou les biais préjudiciables. Elle implique d’identifier et d’atténuer les biais dans les données, les modèles, les contextes de déploiement et les processus décisionnels.
Qu’est-ce que le deep learning ?
Le deep learning est un sous-domaine de l’apprentissage automatique qui utilise des réseaux de neurones à plusieurs couches pour apprendre des représentations et des motifs à partir des données.
En quoi la classification et la régression diffèrent-elles ?
Utilisez la classification lorsque la cible est une catégorie ; utilisez la régression lorsque la cible est une valeur continue ou numérique.
Qu’est-ce que la provenance du contenu ?
La provenance et le filigranage désignent des signaux qui aident à identifier comment un contenu a été créé, d’où il vient ou s’il a été généré ou modifié par l’IA. Ces mécanismes soutiennent l’authenticité, la confiance, la modération, l’auditabilité et une gouvernance responsable du contenu.
Pourquoi le contenu généré a-t-il besoin d’une revue humaine ?
L’évaluation humaine est le processus par lequel des personnes jugent la qualité, la sécurité, l’utilité ou l’exactitude des sorties d’un modèle. Elle est particulièrement importante pour les tâches où il n’existe pas une seule bonne réponse, comme la qualité de traduction, le résumé, le dialogue ou la génération créative.