LoRA, o Low-Rank Adaptation, es un método eficiente en parámetros para hacer fine-tuning de modelos grandes entrenando un pequeño conjunto de parámetros adicionales de bajo rango mientras se deja sin cambios la mayor parte de los pesos del modelo base. Esto reduce el coste de entrenamiento y los requisitos de almacenamiento, al tiempo que permite adaptar un modelo a tareas o dominios específicos.
LoRA stands for Low-Rank Adaptation. It is a method used to fine-tune large models by updating only a small, targeted part of the model. This makes it quicker and less resource-intensive to adapt the model to specific tasks or new datasets.
Abbreviation for Low-Rank Adaptability.