A NVIDIA lançou o PAIR, uma ferramenta projetada para ajudar os usuários a conectar hardware antigo em um cluster de IA pessoal. A iniciativa visa aproveitar dispositivos existentes para executar cargas de trabalho de IA localmente.
O projeto permite que indivíduos utilizem seus recursos de hardware acumulados para tarefas de inteligência artificial.
O FlashAttention-4 aborda as limitações de desempenho dos núcleos de tensores de ponto flutuante de 4 bits (FP4) do Blackwell, introduzindo novos caminhos para inferência não causal e treinamento causal. O método, chamado Direct-P, mapeia escores diretamente para probabilidades FP4 para contornar os custos de conversão de softmax que normalmente dominam quando os produtos matriciais diminuem.
A NVIDIA agendou o lançamento de suas GPUs de próxima geração Vera Rubin para meados de 2027. A empresa espera vender US$ 20 bilhões em hardware Vera Rubin no trimestre atual, o que representaria 20 por cento de sua receita de data centers.
A Perplexity lançou o Computador Portátil, uma versão focada em execução local de sua plataforma agêntica que executa a estrutura do agente, orquestrador, planejador, roteador de ferramentas e modelos pós-treinados diretamente no hardware NVIDIA DGX Spark. Este sistema empacotado permite que cada tarefa comece no dispositivo, sem cobrança por token para o trabalho realizado por modelos locais, escalando apenas etapas específicas para mais de 15 modelos em nuvem mediante aprovação do usuário.
A NVIDIA lançou o CUDA Python 1.0, fornecendo uma base unificada para computação em GPU em Python. Este lançamento introduz APIs estáveis na plataforma.
A OpenAI divulgou os primeiros resultados de desempenho do Jalapeño, seu primeiro chip de inferência personalizado, demonstrando ganhos significativos em velocidade e eficiência energética em comparação com sistemas comerciais existentes. A empresa afirma que a nova arquitetura permite maior vazão e menor latência simultaneamente, abordando uma troca comum no hardware atual.
Usamos cookies para medir o tráfego e melhorar o site. Você pode aceitar ou recusar os cookies de análise. Política de privacidade