현재 7900xtx에 만족하며 모델을 돌리고 있습니다. 그냥 재미로 추론만 합니다. ollama로 돌리니 rocm도 잘 인식합니다.(리눅스)


그런데 역시 70b를 돌리려니 vram이 문제이죠. 7900xtx를 하나 더 사자니, 메인보드부터 다시 고민해야겠더라고요.


그런데, 나중에 apu중에 strix point라는 40cu의 그래픽이 탑재된게 나온다고 하더라고요. 그런데, 내장은 일반 ddr5 메모리를 사용하지요.


그렇게 된다면 메모리문제가 사라지지 않을까 생각이 듭니다.


매우빠른 내장그래픽을 사용할 시에 추론 시 느려지는 문제가 있을까요?