비싸게 산 GPU, 최대한 많이 쓰려면?…이 '기업' 없인 어렵다

"이곳은 래블업의 세번째 테스트 DC(데이터센터)다.

엔비디아의 GPU(그래픽처리장치)와 델의 서버, 퓨리오사AI의 레니게이드가 들어와 있다.

국내 최초로 텐스토렌트의 갤럭시도 들였다.

빈자리에는 엔비디아 베라 루빈 등 최신 모델로 채워질 예정이다.

여기서 다양한 AI 반도체가 한 번에 잘 돌아가는지 확인한다."

서울 강남구 래블업 본사에서 만난 신정규 래블업 대표는 AI(인공지능) 인프라인 '백엔드닷AI(Backend.AI)'

등 자사 대표 솔루션을 시험하는 테스트 DC를 소개했다.

서로 다른 GPU와 NPU(신경망처리장치)만으로 구성된 테스트 DC에서는 반도체의 효율을 끌어올리고, 다양한 모델의 칩을 하나로 묶어 원활하게 사용할 수 있는지를 확인한다…