자비스앤빌런즈, AI 통합 플랫폼 ‘카터’ 구축…LLM 운영비 45% 절감

삼쩜삼을 운영하는 자비스앤빌런즈가 사내에 분산돼 있던 AI 에이전트를 일원화 관리하는 자체 플랫폼 ‘카터’를 구축해 AI 운영 비용을 최대 45% 절감했다. 카터는 에이전트 개발·운영 비용을 모니터링하고 공통 보안·개인정보 보호 기능을 지원하는 통합 인프라로, 표준화된 라이브러리를 공유해 중복 개발을 막는다. 현재 대고객 서비스 ‘삼쩜삼Q’를 포함해 총 8개의 사내외 에이전트가 카터 기반으로 운영되고 있다.