Together AI introduz Throughput Provisado para inferência garantida de modelos abertos

A Together AI lançou o Throughput Provisado, um novo formato de inferência que fornece capacidade reservada para modelos abertos de ponta com precificação baseada em tokens e SLA de disponibilidade de 99%. Esta opção preenche a lacuna entre a inferência serverless de melhor esforço e a gestão complexa de GPUs dedicadas, oferecendo custos previsíveis e disponibilidade garantida.

• Disponível hoje para MiniMax M3 e GLM-5.2 na América do Norte, EMEA e além, com um prazo mínimo de um mês.
• Os clientes compram Unidades de Throughput Provisado (PTU) a $0,05 por PTU por minuto para garantir capacidade exclusiva.
• Os custos são até 90% abaixo do preço de lista do Claude Opus 4.8, com PTUs do MiniMax M3 entregando aproximadamente $0,36 por milhão de tokens de entrada e $2,16 por milhão de tokens de saída em plena utilização.
• A API é idêntica entre Serverless, Dedicated Inference e Throughput Provisado, permitindo integração perfeita.

Este lançamento permite que as empresas migrem cargas de trabalho de produção de APIs proprietárias para modelos abertos com as garantias de confiabilidade necessárias para aplicações críticas para o negócio.