GPT-OSS-120B를 8GB VRAM, 64GB RAM으로 구동시켜보기
GPT-OSS 120B를 8GB VRAM, 메모리 64GB로 구동시켜볼 수 있다하여 다음 레딧글을 참고해서 시도해봤습니다.
https://old.reddit.com/r/LocalLLaMA/comments/1mke7ef/120b_runs_awesome_on_just_8gb_vram/
테스트에 사용한 노트북 사양입니다.
CPU AMD Ryzen 7 8845HS w/ Radeon 780M Graphics (3.80 GHz)
Geforce RTX 4060 8G
시스템 메모리