Alibaba ha anunciado planes para desarrollar un modelo de inteligencia artificial que contenga entre 5 y 10 billones de parámetros. Junto con esta hoja de ruta, la compañía también presentó un nuevo chip personalizado diseñado para apoyar sus necesidades de infraestructura.
Huawei ha pausado su expansión internacional de chips de inteligencia artificial porque la demanda doméstica dentro de China está superando la oferta disponible. Este cambio estratégico significa que los competidores AMD y Nvidia ya no enfrentan presión inmediata por la entrada global de Huawei al mercado.
Una propuesta en Hugging Face discute dos problemas interconectados en la IA: la dependencia del entrenamiento de modelos grandes separados y la dependencia del ecosistema de GPUs de propósito general.
El proyecto llama.cpp lanzó la compilación b11059, que introduce actualizaciones significativas en el backend Metal para hardware Apple Silicon. El cambio principal es la adición de soporte de entrada F16 al kernel Fast Walsh-Hadamard Transform (FWHT), permitiendo leer fuentes F16 directamente sin necesidad de una copia convertida.
El proyecto llama.cpp ha incrementado el límite de filas hoisted para la operación mul_mat_id de Vulkan desde 256 hasta 1024 expertos. Este cambio aborda cuellos de botella de rendimiento en modelos con grandes cantidades de expertos, como Qwen3.8-Flash-Next, que anteriormente se ejecutaba en una ruta de código más lenta debido a restricciones del tamaño del array compartido.
El proyecto llama.cpp lanzó la versión b10997, que incluye un cambio en la heurística ncols_opt de mosaicos de Mixture of Experts (MoE) para admitir la arquitectura RDNA3.5.
La versión llama.cpp b10994 incluye una corrección para el backend de Metal que resuelve las salidas NaN en la operación `mul_mm_id` cuando los valores de activación superan el rango f16. Este defecto anteriormente hacía que modelos como Mistral Small 4 produjeran vocabularios completamente NaN durante los pasos de prellenado de 32 tokens o más en dispositivos Apple Silicon.
Los investigadores presentan ShareMMU, un diseño de IOMMU que permite a múltiples aceleradores no confiables reutilizar de forma segura direcciones previamente traducidas dentro de un espacio de direcciones virtuales compartido. Este enfoque mitiga los riesgos de canales laterales asociados con grandes búferes de traducción compartidos (TLB) mientras mantiene un alto rendimiento.
El autor ha desarrollado MOLT, un entorno de ejecución prioritario para Windows para el ajuste fino de QLoRA consciente de la temperatura en GPUs NVIDIA de consumo, y lo ha comparado con Unsloth utilizando un millón de objetivos de entrenamiento Qwen 1.5B en una GPU RTX 4060 Laptop.
Un usuario ha desarrollado una implementación personalizada que permite ejecutar el modelo DeepSeek V4.1 en GPUs NVIDIA A100 con un rendimiento que supera a la API oficial.
Una propuesta en los foros de Hugging Face describe una capa común de ejecución y gestión de memoria para GPU, diseñada para desacoplar el código de la aplicación de proveedores específicos de hardware como NVIDIA, AMD e Intel. El objetivo es permitir a los usuarios especificar un presupuesto de memoria en lugar de configurar manualmente indicadores específicos del backend, mapas de dispositivos o estrategias de descarga.
Los investigadores proponen Onyx, un enfoque eficiente en costos para la búsqueda de vecinos más cercanos aproximados (ANN) disk-oblivious que equilibra el ancho de banda y el recuento de accesos invirtiendo el diseño de los sistemas ORAM-ANN de última generación.
Investigadores de NVIDIA han presentado GPIR, un sistema que acelera la Recuperación Privada de Información (PIR) en GPUs abordando la alta computación y el tráfico de memoria en el lado del servidor inherentes a los protocolos basados en retículas. El sistema emplea un modelo de ejecución híbrido consciente de las etapas que cambia dinámicamente entre kernels a nivel de operación y a nivel de etapa para maximizar la reutilización de datos en el chip.
Un nuevo estudio presenta una caracterización unificada a nivel de sistema de la computación multipartita segura (MPC) y la criptografía totalmente homomórfica (FHE) para inferencia de aprendizaje automático que preserva la privacidad. El trabajo evalúa dos variantes de MPC —conversión de compartición aritmética/binaria y compartición secreta de funciones— junto con FHE en múltiples modelos CNN y Transformer.
El equipo de núcleos de Together AI ha optimizado la biblioteca ThunderKittens para aprovechar las nuevas características de la plataforma NVIDIA Vera Rubin NVL72, enfocándose específicamente en mejorar el rendimiento para multiplicaciones de matrices NVFP4 y FP8.
Together AI anuncia la vista previa pública del cómputo preemptible para Together GPU Clusters en Kubernetes, ofreciendo una opción de menor costo para cargas de trabajo tolerantes a interrupciones. Los nodos preemptibles utilizan capacidad acelerada NVIDIA no utilizada y se facturan al 50% fijo de la tarifa bajo demanda.
El proyecto llama.cpp ha lanzado la versión b10891, que aborda un problema crítico de estabilidad en las GPU PowerVR. La actualización modifica el backend de Vulkan para recurrir a la reducción por memoria compartida en las operaciones de multiplicación matriz-vectorial desquantizada (dmmv).
Beatriz Yankelevich del Grupo de Sistemas Cuánticos de Ingeniería de MIT utilizó GPT‑5.6 Sol, integrado con Codex, para ejecutar y refinar automáticamente mediciones rutinarias en qubits superconductores. Esta integración permite que el agente de IA opere el software de laboratorio, analice los resultados y decida sobre los pasos siguientes sin supervisión humana constante.
Anthropic ha asegurado arrendamientos de capacidad de cómputo por valor de $517 mil millones durante los últimos 11 meses, lo que equivale a 14.8GW, principalmente con Google y AWS. Esta expansión incluye grandes acuerdos con proveedores de la nube como Akamai y Fluidstack, así como un acuerdo de $45 mil millones con Nscale.
El proyecto llama.cpp lanzó la versión b10839, que resuelve fallos graves en el backend de Vulkan causados por desplazamientos desalineados durante las operaciones de recuperación de filas de tensores. Anteriormente, modelos como Qwen3-TTS y Qwen3-VL fallaban al usar `ggml_view` con desplazamientos de vista distintos de cero porque el shader generaba una aserción ante violaciones de alineación en relación con `minStorageBufferOffsetAlignment`. Esta actualización implementa soporte nativo para desplazamientos alineados tanto en las rutas cuantizadas como no cuantizadas, eliminando la necesidad de recurrir a la CPU.