Débutant
Qu’est-ce que la sécurité des LLM ?
Un LLM, ou grand modèle de langage, est un modèle de langage doté d’un grand nombre de paramètres, entraîné sur de vastes données textuelles ou multimodales pour comprendre et générer du langage.
Qu’est-ce qu’une injection de prompt ?
L’injection de prompt est une technique adversariale qui manipule un modèle de langage en plaçant des instructions malveillantes ou non prévues dans une entrée utilisateur, des documents, des pages web ou d’autres contenus traités par le modèle.
Qu’est-ce qu’un jailbreak dans un système LLM ?
L’injection de prompt ou le jailbreak désigne une entrée adversariale destinée à contourner les instructions, les politiques de sécurité ou les contrôles opérationnels d’un modèle. Les mesures d’atténuation incluent le filtrage des entrées, l’isolation du retrieval, l’accès aux outils selon le moindre privilège, l’application de politiques et des garde-fous en couches.
En quoi le RAG diffère-t-il du fine-tuning ?
Utilisez le RAG lorsque le modèle a besoin d’informations actuelles, fondées sur des sources ; utilisez le fine-tuning lorsque le modèle doit apprendre un comportement spécialisé, une performance de tâche, une adaptation de domaine ou un style à partir de données.