감사합니다 5090이 나오면 4090+5090 을 돌리는거랑 그냥 맥으로 추론하는거랑 뭐가 더 좋을까요??     그리고 지금 데스크탑 4090 1대로는 학습이 힘들까요??

ㅊㅊ

감사합니다 정진해야겠네요 ㅋㅋ

M1 Max 64GB 쓰고 있는데 최근 모델들이 겁나 커져서 Mixtral 8x22B 같은건 2비트 양자화로 갱신히 돌립니다. M1 Max 보다 GPU 2배, 램 2배인 M1 Ultra 를 정리할 이유는 없어 보이네요.

좀 더 정리해본 결과, LLM 을 돌리는 관점에서 성능으로 보자면 M2 Ultra GPU 76 코어 >  M2 Ultra GPU 60 코어 > M1 Ultra GPU 64 코어 > M1 Ultra GPU 48 코어 > M3 Max GPU 40 코어 > M2 Max GPU 38 코어 > M2 Max GPU 30 코어 > M1 Max GPU 32 코어 > M3 Max GPU 30 코어 > M1 Max GPU 24 코어 순입니다. M2 Ultra 다음으로 좋은게 M1 Ultra 이니, LLM 용도로 이걸 쓴다면 더더욱 M1 Max 로 바꿀 이유가 없네요.