오케스트로, AI 추론 최적화 전략 공개…동일 GPU서 처리량 62.8% 향상

오케스트로가 GPU 추가 확보보다 기존 자원의 활용 효율을 높이는 AI 추론 최적화 전략을 공개하며, 동일 GPU에서 처리량을 62.8% 향상시켰다고 밝혔다. 회사는 10월 27일 'АI 서비스 성능 개선, GPU부터 더 사야 할까?'를 주제로 온라인 웨비나를 열어 추론 인프라의 병목, 자원 최적화 방안, 자사 플랫폼의 성능 검증 결과를 공유할 예정이다.