media r/LocalLLaMA · há 73 d · open_models

Apple planeja chip M7 Ultra com até 1,5 TB de memória unificada

Traduzido do English → Português (BR)

Segundo relatos, a Apple está planejando um chip M7 Ultra que suportará até 1,5 TB de memória unificada.

A especificação planejada destaca um aumento significativo na capacidade de memória para o futuro Apple silicon.

Importância 1/3 r/LocalLLaMA Apple ML Hardware & chips

Macs com Apple M5: ajuste de modelos abertos calculado a partir das especificações

O artigo calcula quais grandes modelos de linguagem (LLMs) de código aberto cabem nos novos Macs da série Apple M5 (Mac mini, Mac Studio) ao analisar as restrições de memória em vez de executar benchmarks. Ele determina a capacidade com base nos tamanhos dos arquivos GGUF Q4_K_M, nos requisitos do cache KV e na sobrecarga de tempo de execução em relação à memória GPU utilizável.

arxiv arXiv cs.CL · há 82 d · 10 visualizações

BaseRT entrega inferência LLM de primeira classe no Apple Silicon via Metal nativo

Pesquisadores apresentam o BaseRT, um runtime de inferência nativo com Metal para modelos de linguagem grande no Apple Silicon que alcança a maior taxa de inferência reportada até hoje. Ao utilizar fusão de kernels específica do chip e otimização consciente da memória unificada, ele supera a sobrecarga encontrada em frameworks existentes como llama.cpp e MLX.

github llama.cpp · há 5 h · 4 visualizações

llama.cpp b11160 adiciona matmul coopmat1 int8 para AMD RDNA3/4 e suporte IQ4_XS

O projeto llama.cpp lançou a versão b11160, introduzindo uma implementação de matriz cooperativa int8 (coopmat1) para Vulkan nas arquiteturas AMD RDNA3 e RDNA4. Esta atualização inclui um shader dedicado que sonda os valores coopmat diretamente para melhorar o desempenho.

media Latent Space · há 11 h · 1 visualização

Meta Connect 2026 apresenta agente pessoal Muse, óculos de RV e chaveiro Charm

No Meta Connect 2026, a Meta apresentou seu agente pessoal Muse como o centro de uma estratégia de hardware mais agente, introduzindo novos recursos e dispositivos enquanto antecipava um modelo de fronteira futuro. A empresa exibiu as capacidades expandidas do Muse, incluindo interações por voz e vídeo em tempo real, junto com novos hardwares como óculos de RV e o chaveiro Charm.

media r/LocalLLaMA · há 1 d · 10 visualizações

Apple lança LensVLM-9B, um VLM que expande seletivamente imagens de texto comprimidas

A Apple lançou o LensVLM-9B, um Modelo de Linguagem Visual com 9 bilhões de parâmetros projetado para processar imagens de texto comprimidas de forma mais eficiente. O modelo escaneia essas entradas comprimidas e usa ferramentas aprendidas para expandir seletivamente apenas as páginas relevantes para sua forma não comprimida.