La toxicidad es el grado en que un contenido es abusivo, amenazante, odioso, acosador u ofensivo de otro modo. Los sistemas de IA pueden detectar o puntuar la toxicidad en distintas dimensiones para apoyar la moderación, la evaluación de seguridad y la gobernanza de contenidos.
The degree to which content is abusive, threatening, or offensive. Many machine learning models can identify, measure, and classify toxicity. Most of these models identify toxicity along multiple parameters, such as the level of abusive language and the level of threatening language.