카카오는 국제 학회 'COLM 2026'에서 대규모 MoE 모델의 최적 학습률을 전체 학습 비용의 약 1% 수준으로 예측하는 방법론과, 파라미터 수를 20.2~40.4% 줄이면서 테스트 성능을 2.7~6.6% 개선한 경량화 토크나이제이션 기술 'BBT'를 각각 발표했다. 학습률 예측 방법론은 카카오의 'Kanana-2.6-155b-a17b' 모델 사전학습에 실제 적용돼 10조 토큰까지 안정적으로 학습하는 데 활용됐다.
투자 금액·기업가치는 원문에 적힌 표기를 그대로 옮겼으며 통화를 환산하지 않았습니다. 이 색인은 투자 자문이 아닙니다. 표지 사진은 기사 속 기업·인물이 아니라 분야 이미지입니다.


