Together AI, Qwen3.5 4B에서 Jev 유사 분류기를 17달러로 파인튜닝 가능
Together AI는 Qwen3.5 4B 기본 모델을 사용하여 Jev와 유사한 분류 모델을 파인튜닝하기 위한 가이드와 오픈소스 저장소를 출시했습니다.
Together AI, 중단 시간 없이 프로덕션에서 모델을 업그레이드하기 위한 Canary 롤아웃 도입
Together AI는 현재 모델의 라이브 트래픽을 게이트된 단계로 새 체크포인트로 마이그레이션하는 기능인 Canary 롤아웃을 도입했습니다. 이 시스템은 트래픽 이동 전에 헬스 체크와 선택적 메트릭 게이트를 실행하여 모델 교체에 대한 안전 장치를 자동화하며, 성능이 저하될 경우 자동으로 일시 중지하고 되돌릴 수 있습니다.
Together, 폐쇄형에서 오픈소스 모델로의 마이그레이션 전략 제시
Together는 관리형 서비스를 활용하여 기업이 폐쇄형 AI 모델에서 오픈소스 모델(OSM)로 마이그레이션할 수 있는 프레임워크를 제공하며, 복잡성을 줄이고 채택을 가속화하는 것을 목표로 합니다. 이 과정에는 벤치마크를 통해 적합한 모델을 발견하고, 트래픽 리플레이를 통해 평가하며, 프롬프트나 가중치를 조정하고, 전환의 정당성을 위해 ROI를 계산하는 것이 포함됩니다.
Together AI가 전문가용 LoRA, 실시간 메트릭 및 가격 인하로 파인튜닝을 확장
Together AI는 GLM-5.3과 Kimi K2.7을 포함한 더 넓은 범위의 오픈 가중치 모델을 지원하기 위해 파인튜닝 서비스를 확장했으며, 훈련 과정에 대한 실시간 실험 추적 및 세밀한 제어 기능을 도입했습니다.
Together AI, NVIDIA Vera Rubin NVL72용 ThunderKittens GEMM 최적화
Together AI의 커널 팀은 NVIDIA Vera Rubin NVL72 플랫폼의 새로운 기능을 활용하기 위해 ThunderKittens 라이브러리를 최적화했으며, 이는 주로 NVFP4 및 FP8 행렬 곱셈의 성능 향상을 목표로 합니다.
Together GPU Clusters에 50% 비용의 프리엠프터블 노드 추가
Together AI는 Kubernetes에서 Together GPU Clusters를 위한 프리엠프터블 컴퓨팅의 공개 미리보기를 발표하며, 중단 허용 워크로드에 대해 더 낮은 비용 옵션을 제공합니다. 프리엠프터블 노드는 미사용 NVIDIA accelerated 용량을 활용하며 온디맨드 요금의 고정 50%로 청구됩니다.
에이전트 소프트웨어 개발을 위한 오픈 소스 AI 스택 가이드
본 기사는 MIGHT 스택(Model, Inference, Gateways, Harness, Tools)을 개괄합니다. 이는 심층적인 머신러닝 전문 지식이나 전용 하드웨어 없이도 에이전트 소프트웨어를 위해 오픈 소스 모델을 활용할 수 있게 하는 모듈식 아키텍처입니다.