다시 올라오게 되면 기존에 뿌려졌던 파일들이랑 md5 해시 체크섬 비교부터 해서 뭐가 달라졌는지 매의 눈으로 살펴보겠다고 양붕이들이 벼르고 있음

"4-bit 양자화를 통해 85GB VRAM이 필요하므로, 4개의 24G 소비자용 GPU로 충분히 구동 가능함. KV 캐시 최적화를 위한 여유 공간도 있음."

라는데, 4bit 이면 집에서 돌려볼만직 하네요. A6000 2way면, 그래도 현실적인 금액.. 이 아닐까 싶네요