gpu 공유메모리 32기가라 2비트 양자화한게 안들어갈리가 없는데
메모리 이정도 먹고 unused 저만큼 남았는데 걍 터짐;
웃긴건 걍 cpu에 로드하면 잘만되더라고
LM스튜디오 ㅈ버그인가...