IBM은 엔터프라이즈 에이전틱 워크플로우에 특화되어 있으며 네이티브 단계별 추론 기능을 갖춘 Granite 4.2 언어 모델을 3B, 8B, 30B 파라미터 크기로 출시했습니다.
언어 모델과 함께 IBM은 엣지 디바이스에서의 높은 처리량 전사 작업을 위해 최적화된 경량 음성 모델인 Granite Speech 5.0 Turbo CTC를 소개했습니다.
- Granite 4.2는 소프트웨어 엔지니어링 및 터미널 기반 코딩 작업을 위한 "에이전틱 RL"을 포함한 밀집 구조와 다단계 강화 학습 기능을 갖추고 있습니다.
- 모델은 IBM의 CodeAlchemy 파이프라인에서 생성된 1조 개의 합성 코드로 학습되었으며, 추론 속도를 높이고 비용을 절감하기 위해 추측 디코딩을 포함합니다.
- Granite Speech 5.0 Turbo CTC는 4억 7천만 개의 파라미터를 가지며 효율적인 스트리밍 오디오를 위해 연결주의 시간 분류(CTC)를 사용하고, H100 GPU에서 약 12,600의 RTFx 점수를 달성합니다.
- 언어 모델과 음성 모델 모두 Apache 2.0 라이선스 하에 제공되며, 조직은 라이선스 제한 없이 다운로드, 파인튜닝 및 배포할 수 있습니다.
이러한 업데이트는 기업이 현실적인 시나리오에서 계획을 수립하고 복잡한 작업을 실행하며 음성 데이터를 효율적으로 처리할 수 있는 신뢰할 수 있는 에이전트를 구축하는 데 도움을 주는 것을 목표로 합니다.