La confidentialité différentielle est un cadre de préservation de la vie privée qui limite ce qui peut être inféré sur un individu à partir de la sortie d’un calcul ou d’un modèle. Elle utilise couramment des techniques telles que l’échantillonnage et l’ajout contrôlé de bruit pour réduire le risque d’exposition de données sensibles utilisées pour l’entraînement ou l’analyse.
In machine learning, an anonymization approach to protect any sensitive data (for example, an individual's personal information) included in a model's training set from being exposed. This approach ensures that the model doesn't learn or remember much about a specific individual. This is accomplished by sampling and adding noise during model training to obscure individual data points, mitigating the risk of exposing sensitive training data. Differential privacy is also used outside of machine learning. For example, data scientists sometimes use differential privacy to protect individual privacy when computing product usage statistics for different demographics.