Together AI는 토큰 기반 가격 책정과 99% 가동 시간 SLA를 갖춘 최첨단 오픈 모델에 예약된 용량을 제공하는 새로운 추론 형태인 Provisioned Throughput를 출시했습니다. 이 옵션은 예측 가능한 비용과 보장된 가용성을 제공하여 베스트 에포트 서버리스 추론과 복잡한 전용 GPU 관리 사이의 격차를 해소합니다.
- 오늘부터 북미, EMEA 등에서 최소 1개월 계약 조건으로 이용 가능합니다.
- 고객은 독점 용량을 확보하기 위해 Provisioned Throughput Units (PTUs)를 구매하며, 가격은 PTU당 분당 $0.05입니다.
- 비용은 Claude Opus 4.8의 정가보다 최대 90% 저렴하며, MiniMax M3 PTU는 풀 가동 시 입력 토큰 100만 개당 약 $0.36, 출력 토큰 100만 개당 $2.16입니다.
- API는 Serverless, Dedicated Inference, Provisioned Throughput 전반에 걸쳐 동일하여 원활한 통합을 가능하게 합니다.
이번 출시로 기업은 비즈니스 핵심 애플리케이션에 필요한 신뢰성 보장을 갖추면서 독점 API에서 오픈 모델로 프로덕션 워크로드를 마이그레이션할 수 있게 되었습니다.