NVIDIA ha presentado PAIR, una herramienta diseñada para ayudar a los usuarios a conectar hardware antiguo en un clúster de IA personal. La iniciativa busca aprovechar los dispositivos existentes para ejecutar cargas de trabajo de IA localmente.
El proyecto permite a las personas utilizar sus recursos de hardware acumulados para tareas de inteligencia artificial.
FlashAttention-4 aborda las limitaciones de rendimiento de los núcleos de tensor de punto flotante de 4 bits (FP4) de Blackwell introduciendo nuevas rutas para la inferencia no causal y el entrenamiento causal. El método, llamado Direct-P, mapea las puntuaciones directamente a probabilidades FP4 para evitar los sobrecostos de conversión de softmax que suelen dominar una vez que los productos matriciales se reducen.
NVIDIA ha programado el lanzamiento de sus GPUs de próxima generación Vera Rubin para mediados de 2027. La compañía espera vender hardware por valor de 20 mil millones de dólares en el trimestre actual, lo que representaría el 20 por ciento de sus ingresos por centros de datos.
Perplexity ha lanzado Portable Computer, una versión local-first de su plataforma agéntica que ejecuta el entorno del agente, orquestador, planificador, enrutador de herramientas y modelos post-entrenados directamente en hardware NVIDIA DGX Spark. Este sistema empaquetado permite que cada tarea comience en el dispositivo, sin cobrar por token para el trabajo manejado por modelos locales, mientras escala solo pasos específicos a más de 15 modelos en la nube con la aprobación del usuario.
NVIDIA ha lanzado CUDA Python 1.0, proporcionando una base unificada para la computación en GPU en Python. Este lanzamiento introduce APIs estables a la plataforma.
OpenAI ha publicado los resultados iniciales de rendimiento de Jalapeño, su primer chip de inferencia personalizado, demostrando ganancias significativas en velocidad y eficiencia energética en comparación con los sistemas comerciales existentes. La empresa afirma que la nueva arquitectura permite un mayor rendimiento y menor latencia simultáneamente, abordando una compensación común en el hardware actual.
Usamos cookies para medir el tráfico y mejorar el sitio. Puedes aceptar o rechazar las cookies de analítica. Política de privacidad