QLoRA 파인튜닝 실습 ( Gemma-3-270m-it 사용)
270M 파라미터를 가진 소형 Gemma 모델인 "google/gemma-3-270m-it"을 파인 튜닝하는 과정을 다루고 있습니다.
GPU 메모리가 6G인 3060에서도 진행가능합니다.
2025.8.21 최초작성
코랩에서 포스트에서 사용한 모델보다 좀 더 큰 모델인 gemma-3-4b-it를 코랩에서 학습시켜보는 유튜브 영상도 있습니다.
270M 파라미터란?
모델 이름 "google/gemma-3-270m-it"을 보면 270m이라고