서울신문··경제
오케스트로 “GPU는 확보했는데 AI는 왜 느릴까”… 추론 최적화 전략 공개
기사 앞부분 · 출처: 서울신문
- GPU 활용 효율 높이는 AI 추론 최적화 전략…
서비스 성능 개선 방안 제시 - ‘콘체르토 AI’
분산 추론 기술로 동일 GPU 환경서 처리량 62.8% 향상 - 넷앱 스토리지 연계로 AI 모델 가중치 로딩 시간 71초에서 8초로 단축 인공지능(AI) 인프라 소프트웨어 전문 기업 오케스트로(대표 김범재·김영광)가 그래픽처리장치(GPU) 활용도를 높이고 AI 서비스 성능을 개선하기 위한 추론 인프라 최적화 전략을 공개한다.
오케스트로는 오는 10월 27일 오후 2시 ‘AI 서비스 성능 개선, GPU부터 더 사야 할까?’를 주제로 온라인 웨비나를 개최한다고 26일 밝혔다…
매스코리아는 저작권을 지키기 위해 언론사 기사의 본문을 싣지 않습니다. 전체 기사는 서울신문 사이트에서 읽을 수 있습니다.
좋아요·싫어요는 독자 반응이며, 언론사나 매스코리아의 입장이 아닙니다.
