Together AI는 GLM-5.3과 Kimi K2.7을 포함한 더 넓은 범위의 오픈 가중치 모델을 지원하기 위해 파인튜닝 서비스를 확장했으며, 훈련 과정에 대한 실시간 실험 추적 및 세밀한 제어 기능을 도입했습니다.
- 새로운 모델 지원에는 GLM-5.3, Kimi K2.7, Qwen 3.8-27B, Gemma 4, DeepSeek-V4 변형이 포함됩니다.
- 실시간 메트릭은 이제 API, CLI 및 UI를 통해 노출되어 사용자가 손실과 기울기 노름을 실시간으로 모니터링할 수 있습니다.
- 전문가용 LoRA는 Mixture-of-Experts 모델에서 어댑터가 전문가 레이어를 타겟팅하도록 하여, 표준 어댑터의 15%에 비해 새로운 지식의 회상률을 89%로 향상시킵니다.
- 조기 종료는 검증 손실이 정체될 때 자동으로 실행을 중단하고 사용되지 않은 훈련 단계를 환불합니다.
- 기울기 누적(GPUs 메모리를 초과하는 시퀀스를 처리하기 위해)을 통해 임의의 배치 크기가 지원됩니다.
- LoRA 어댑터 훈련 가격이 30%에서 70% 인하되었으며, gpt-oss 시리즈와 같은 모델에 대해 구체적인 절감 효과가 있습니다.
- 사전 비행 파일 유효성 검사는 작업 제출 전에 JSONL 데이터셋의 스키마 오류를 확인하며, 샘플 가중치를 통해 예제별 영향력을 제어할 수 있습니다.
이러한 업데이트는 기술적 마찰과 비용을 줄이는 동시에 모델 개발 워크플로우에 대한 더 정밀한 제어를 가능하게 하는 것을 목표로 합니다.