Together AI와 Y Combinator는 Y Combinator의 포트폴리오에 있는 AI 네이티브 스타트업만을 위해 전용 GPU 클러스터를 제공하기 위한 파트너십을 발표했습니다. 이 계획은 장기적인 계약 없이 유연하고 비용 효율적인 인프라를 제공하여 학습과 추론을 위한 컴퓨팅 접근의 중요한 병목 현상을 해결하는 것을 목표로 합니다.
- 클러스터는 스타트업이 YC와 별도로 관리되며 개별 청구가 가능한 Together의 셀프 서비스 포털을 통해 GPU를 예약하고 프로비저닝할 수 있게 합니다.
- 창업자는 몇 분 안에 GPU를 실행하여 장기 요금의 혜택을 받으면서도 단기적인 작업에 맞게 확장할 수 있는 유연성을 유지할 수 있습니다.
- 이 인프라는 초기 단계 팀을 위한 단일 노드 컴퓨팅부터 더 큰 확장 요구 사항에 이르기까지 다양한 필요 사항을 지원합니다.
- Together AI는 클러스터의 워크로드에 대한 추론 속도와 단위 경제를 개선하기 위해 어텐션 메커니즘과 Mamba 아키텍처에 대한 자체 연구를 활용합니다.
이 파트너십은 컴퓨팅 용량을 확보하는 데 있어 점점 더 어려워지고 있는 비용 문제를 해결하여, 창업자가 사용량을 통제하면서 대형 기업과 비교할 만한 자원에 접근할 수 있도록 합니다.