[논문리뷰] LoRA Learns Less and Forgets Less

요즘 이런저런 일이 많다보니 놓친 논문리뷰를 다시 해봐야겠죠!오늘은 2024년 8월에 Transactions on Machine Learning Research 저널에 publish된 LoRA Learns Less and Forgets Less 논문에 대해서 리뷰해보려고 해요. 제목에서도 알 수 있듯이 LoRA 방식을 활용하여 학습을 진행할 때의 학습과 망각 성능에 대한 논문이에요.https://arxiv.org/abs/2405.09673 LoRA Learns Less and Forgets LessLow-Rank Adaptation (LoRA) is a widely-used parameter-efficient finetuning method for large language models. LoRA sav..

2025.02.03