Soft prompt tuning — параметрически эффективная техника адаптации большой языковой модели к задаче путём обучения дополнительных prompt embeddings. Она избегает обновления большинства или всех весов модели и вместо этого оптимизирует непрерывные prompt representations через обучение.
A technique for tuning a large language model for a particular task, without resource intensive fine-tuning. Instead of retraining all the weights in the model, soft prompt tuning automatically adjusts a prompt to achieve the same goal. Given a textual prompt, soft prompt tuning typically appends additional token embeddings to the prompt and uses backpropagation to optimize the input. A "hard" prompt contains actual tokens instead of token embeddings.