El usuario quiere entender la toxicidad de IA en el contexto de la seguridad y el riesgo de IA y aplicarla a trabajos prácticos de gobernanza o cumplimiento en IA.
La toxicidad de IA es una salida dañina, ofensiva, falsa, sesgada o de otro modo inapropiada generada o amplificada por un sistema de IA. Puede surgir de los datos de entrenamiento, el diseño del sistema, el contexto del prompt, la falta de alineamiento o salvaguardas inadecuadas.
Contenido en progreso
Esta respuesta se está redactando. Vuelve pronto para ver la guía completa.