https://www.hellodd.com/news/articleView.html?idxno=101481

어쩌다 우연히 KISTI가 슈퍼컴퓨터 6호기를 내년까지 도입한다는 뉴스를 봤는데, 혹시 슈퍼컴퓨터를 굴릴 일이 있을 사람들이 챈에 있을 것 같기도 하고, 나 또한 컴퓨터에 관심이 많아서 함 올려봄.

듣자하니 총 예산 2992억 정도로 해서, 600페타플롭스 FP64(배정밀도 연산) 이론성능을 목표로 하고 있음.

근데 더 뒤적거려보니까, HBM3메모리 박힌 칩에 가산점을 더 줌(사실상 엔비디아 H100을 GPU로 넣겠음)을 의도했는데 엔비디아는 거절해서 상당히 곤란해졌다고 함.

엔비디아는 어차피 기업들이 웃돈을 얹어서라도 더 사갈려고 발악을 하는 입장인데 굳이? 하면서 거절한 듯 함.

게다가 물량도 없는데 6호기는 2024년까지 완성해서 운영을 하려 하니 시기도 맞출 수 없고, 예산도 한정되어서 더 늘릴 수도 없는 상황임.(예타로 예산을 배정받아서 더 늘리거나 할 수 없음)

+예산이 한정적인데다 엔비디아 GPU를 넣으라는 무언의 압박 덕에 아무도 공고에 응한 회사가 없어서 2번이나 유찰되어버린 상태.

여기서 와따시의 생각은...로렌스 리버모어 국립 연구소의 El Capitan(MI300A랑 EPYC를 사용하고, 2엑사플롭스의 배정밀도의 이론성능. 총 예산은 6억달러에, 내년부터 운영 예정이고 현재는 조립중.)이나 위의 사진의 미 해군처럼 MI300을 데려오는 건 어떨까 싶은 생각임

간단하게 산술적인 연산으로 해봐도...6억달러=(환율 반영)8022억원.

(2992/8022)*2=0.746정도인데,(8022억으로 2엑사플롭스 슈퍼컴퓨터를 놨으니, 현재 사용가능한 예산 2992억을 분자에 넣고 계산하면 746페타플롭스의 연산 성능을 뽑아낼 수 있다!)

MI300A에서 A는 APU의 약자로, 내부에 칩렛으로 연결해서 칩 3개는 GPU고 나머지 1개는 CPU코어를 탑재해 SoC로 만든 것인데,

AMD는 또한 MI300X도 4분기에 대량 양산 예정이라 함(MI300X는 칩 4개 전부 GPU코어로 탑재. 윗 사진에서 MI300A가 100TF의 FP64?라 했으니 만약 MI300X라면 대충 133.33333...TF이다!(이따구로 계산한 이유는 CPU가 GPU에 비해 배정밀도, 단정밀도 연산 성능은 쥐약이라 걍 없는 셈 치고 대충 계산해버림))

좀 더 계산해보면...746페타플롭스는 MI300A를 넣어서 나온 결과이니, MI300X로 계산해서

746*(4/3)=994.6666 페타플롭스이다! 

KISTI는 6호기로 LLM도 돌리고 싶어 보이던데, 당장 사정의 여의치 않으니 H100의 60TF의 단정밀도, 30TF의 배정밀도보다 4배가량 뛰어난 MI300X를 도입해 보는 건 어떨까욧!(게다가 AMD는 ROCm의 악명 덕에 엔비디아처럼 AI로 물량이 엄청나게 빠지지도 않을 것이닷)