Contrastive-LM이 텍스트를 직접 생성하지 않고 후보 액션에 대한 확률을 반환하는 새로운 유형의 언어 모델인 CLM-8B를 아파치 2.0 라이선스로 공개했다. 이 모델은 타입세이프 AI의 독점 시스템 원 모델인 Jev와 동일한 인터페이스를 목표로 하며, 단일 NVIDIA GPU에서 구동 가능하다. CLM-8B는 특정 작업에서 Jev 대비 최대 13배 빠른 처리 속도를 기록하며 효율적인 AI 액션 스코어링의 가능성을 제시한다.
핵심 기술 사양 및 성능 비교
CLM-8B는 Qwen3-8B 백본 인코더와 2천만 개 파라미터의 투영 헤드를 결합한 구조로, 상태 및 액션 인코더를 이중 방향 InfoNCE 손실 함수로 훈련한다. 추론 시에는 상태 및 액션 임베딩의 내적과 소프트맥스 함수를 통해 후보 액션의 확률 분포를 결정한다.
- 배포 헤드 크기: 75MB
- 하드웨어 요구사항: vLLM을 통해 Qwen3-8B 인코더를 서비스하는 단일 NVIDIA GPU (Linux 환경)
- 재방문 상태 처리 속도: RTX 4090 GPU에서 3개 액션 기준 1.7ms에서 0.6ms로 단축
- 성능 비교 (Jev 대비): 약 1,000개 후보 처리 시 Jev보다 13배 빠른 속도 기록
- 훈련 데이터 규모: 사전 훈련 6천만 개, 중간 훈련 3천만 개, 사후 훈련 1백만 개 데이터셋 사용
- 최고 정확도 (Top-1): 중간 훈련 후 69.2% 달성 (사전 훈련 단독 52.1%)
산업적 시사점
CLM-8B의 출시는 대규모 언어 모델(LLM) 기반 에이전트 시스템에서 액션 결정 및 도구 라우팅의 효율성을 크게 향상시킬 수 있다. 텍스트 생성 없이 확률 스코어링에 특화된 경량 모델은 특정 AI 워크로드에서 컴퓨팅 자원 및 운영 비용 절감에 기여한다. 특히, TypeSafe-호환 API를 제공하여 기존 TypeSafe AI 인프라를 사용하는 기업들이 시스템 전환 부담 없이 CLM-8B의 성능 이점을 활용할 수 있게 한다. 이는 의사 결정 및 최적의 솔루션 선택 프로세스를 가속화하여 다양한 산업 분야에서 AI 에이전트의 실질적인 배포를 촉진할 것으로 분석된다.