La toxicité désigne le degré auquel un contenu est abusif, menaçant, haineux, harcelant ou autrement offensant. Les systèmes d’IA peuvent détecter ou noter la toxicité selon différentes dimensions afin de soutenir la modération, l’évaluation de la sécurité et la gouvernance des contenus.
The degree to which content is abusive, threatening, or offensive. Many machine learning models can identify, measure, and classify toxicity. Most of these models identify toxicity along multiple parameters, such as the level of abusive language and the level of threatening language.