A Alibaba anunciou planos para desenvolver um modelo de inteligência artificial contendo entre 5 e 10 trilhões de parâmetros. Junto com este roteiro, a empresa também apresentou um novo chip personalizado projetado para apoiar suas necessidades de infraestrutura.
A Huawei pausou sua expansão internacional de chips de inteligência artificial porque a demanda doméstica na China está superando a oferta disponível. Essa mudança estratégica significa que os concorrentes AMD e Nvidia já não enfrentam pressão imediata da entrada global da Huawei no mercado.
Uma proposta no Hugging Face discute dois problemas interligados na IA: a dependência do treinamento de grandes modelos separados e a dependência do ecossistema em GPUs de propósito geral.
O projeto llama.cpp lançou a compilação b11059, que introduz atualizações significativas para o backend Metal em hardware Apple Silicon. A principal alteração é a adição de suporte a entrada F16 ao kernel Fast Walsh-Hadamard Transform (FWHT), permitindo que ele leia fontes F16 diretamente sem exigir uma cópia convertida.
O projeto llama.cpp aumentou o limite de row-id elevado para a operação mul_mat_id do Vulkan de 256 para 1024 especialistas. Essa mudança aborda gargalos de desempenho em modelos com grandes contagens de especialistas, como Qwen3.8-Flash-Next, que anteriormente executava por um caminho de código mais lento devido a restrições de tamanho de array compartilhado.
O projeto llama.cpp lançou a versão b10997, que inclui uma alteração na heurística ncols_opt de mosaicos do Mixture of Experts (MoE) para suportar a arquitetura RDNA3.5.
A versão llama.cpp b10994 inclui uma correção para o backend do Metal que resolve saídas NaN na operação `mul_mm_id` quando os valores de ativação excedem a faixa f16. Este defeito anteriormente fazia com que modelos como o Mistral Small 4 produzissem vocabulários completamente NaN durante as etapas de prefill de 32 tokens ou mais em dispositivos Apple Silicon.
Pesquisadores apresentam o ShareMMU, um design de IOMMU que permite que múltiplos aceleradores não confiáveis reutilizem com segurança endereços previamente traduzidos dentro de um espaço de endereço virtual compartilhado. Esta abordagem mitiga riscos de canais laterais associados a grandes Buffers de Tradução Compartilhada (TLBs) enquanto mantém alto desempenho.
O autor desenvolveu o MOLT, um runtime focado em Windows para ajuste fino de QLoRA consciente da temperatura em GPUs NVIDIA de consumo, e o benchmarkou contra o Unsloth usando um milhão de alvos de treinamento do Qwen 1.5B em uma GPU RTX 4060 Laptop.
Um usuário desenvolveu uma implementação personalizada que permite que o modelo DeepSeek V4.1 seja executado em GPUs NVIDIA A100 com desempenho superior ao da API oficial.
Uma proposta nos fóruns da Hugging Face descreve uma camada comum de execução de GPU e gerenciamento de memória projetada para desacoplar o código de aplicação de fornecedores específicos de hardware, como NVIDIA, AMD e Intel. O objetivo é permitir que os usuários especifiquem um orçamento de memória em vez de configurar manualmente sinalizações específicas do backend, mapeamentos de dispositivo ou estratégias de offloading.
Pesquisadores propõem o Onyx, uma abordagem eficiente em custos para busca de vizinhos mais próximos aproximados (ANN) disk-oblivious que equilibra largura de banda e contagem de acessos invertendo o design dos sistemas ORAM-ANN de última geração.
Pesquisadores da NVIDIA apresentaram o GPIR, um sistema que acelera a Recuperação Privada de Informação (PIR) em GPUs ao abordar a alta computação e o tráfego de memória no lado do servidor inerentes aos protocolos baseados em reticulados. O sistema emprega um modelo de execução híbrido consciente das etapas que alterna dinamicamente entre kernels em nível de operação e em nível de etapa para maximizar a reutilização de dados no chip.
Um novo estudo apresenta uma caracterização unificada em nível de sistema da computação multipartidária segura (MPC) e criptografia totalmente homomórfica (FHE) para inferência de aprendizado de máquina que preserva a privacidade. O trabalho avalia duas variantes de MPC — conversão de compartilhamento aritmético/binário e compartilhamento secreto de funções — junto com FHE em múltiplos modelos CNN e Transformer.
A equipe de kernels da Together AI otimizou a biblioteca ThunderKittens para aproveitar os novos recursos da plataforma NVIDIA Vera Rubin NVL72, com foco específico em melhorar o desempenho das multiplicações de matriz NVFP4 e FP8.
A Together AI anuncia a pré-visualização pública do computo preemptível para os Clusters de GPU da Together no Kubernetes, oferecendo uma opção de menor custo para cargas de trabalho tolerantes a interrupções. Os nós preemptíveis utilizam capacidade acelerada NVIDIA não utilizada e são cobrados a 50% fixo da taxa sob demanda.
O projeto llama.cpp lançou a versão b10891, que aborda um problema crítico de estabilidade em GPUs PowerVR. A atualização modifica o backend Vulkan para recuar à redução por memória compartilhada nas operações de multiplicação de matriz por vetor desquantizada (dmmv).
Beatriz Yankelevich, do Grupo de Engenharia de Sistemas Quânticos do MIT, utilizou o GPT‑5.6 Sol, integrado ao Codex, para executar e refinar autonomamente medições rotineiras em qubits supercondutores. Essa integração permite que o agente de IA opere softwares de laboratório, analise resultados e decida sobre as etapas subsequentes sem supervisão humana constante.
A Anthropic garantiu arrendamentos de capacidade de computação no valor de $517 bilhões nos últimos 11 meses, totalizando 14.8GW, principalmente com Google e AWS. Essa expansão inclui grandes acordos com provedores de nuvem como Akamai e Fluidstack, além de um acordo de $45 bilhões com a Nscale.
O projeto llama.cpp lançou a versão b10839, que resolve falhas graves no backend Vulkan causadas por deslocamentos desalinhados durante operações de recuperação de linhas de tensores. Anteriormente, modelos como Qwen3-TTS e Qwen3-VL falhavam ao usar `ggml_view` com deslocamentos de visualização não nulos porque o shader gerava asserções em violações de alinhamento em relação a `minStorageBufferOffsetAlignment`. Esta atualização implementa suporte nativo para deslocamentos alinhados nos caminhos quantizados e não quantizados, eliminando a necessidade de fallbacks na CPU.