NVIDIA ha lanzado CUDA Python 1.0, proporcionando una base unificada para la computación en GPU en Python. Este lanzamiento introduce APIs estables a la plataforma.
La actualización tiene como objetivo abordar limitaciones anteriores ofreciendo acceso completo a la plataforma sin requerir que los desarrolladores dependan de bibliotecas de terceros como PyTorch o CuPy.
OpenAI ha firmado un acuerdo para asegurar aproximadamente 8 gigavatios-IT en el Campus Tecnológico PORTS-Pike en el condado de Pike, Ohio, en asociación con SB Energy, NVIDIA y el Departamento de Energía de EE. UU.
OpenAI ha anunciado una colaboración con Broadcom para desarrollar un chip de inferencia personalizado llamado Jalapeño. Este nuevo hardware está diseñado específicamente para acelerar el despliegue de modelos de lenguaje grandes. La asociación tiene como objetivo reducir la dependencia de aceleradores de terceros para las cargas de trabajo de inferencia de OpenAI. Al integrar silicio personalizado, OpenAI busca optimizar el rendimiento y la eficiencia para sus aplicaciones de IA. El anuncio destaca un movimiento estratégico hacia la integración vertical en la infraestructura de IA. No se proporcionaron detalles sobre especificaciones técnicas específicas o cronogramas de lanzamiento en el informe inicial.
OpenAI ha publicado los primeros resultados medidos de rendimiento para Jalapeño, su chip de inferencia personalizado, junto con una descripción detallada de su estrategia de computación de "inteligencia abundante" integrada. La empresa describe cómo combina centros de datos, chips, modelos y software para mejorar la eficiencia y la economía en todo su sistema.
OpenAI ha publicado los resultados iniciales de rendimiento de Jalapeño, su primer chip de inferencia personalizado, demostrando ganancias significativas en velocidad y eficiencia energética en comparación con los sistemas comerciales existentes. La empresa afirma que la nueva arquitectura permite un mayor rendimiento y menor latencia simultáneamente, abordando una compensación común en el hardware actual.
Nvidia ha informado a sus clientes sobre los próximos aumentos de precios en sus productos, impulsados por la demanda de inteligencia artificial. La compañía comunicó que estos ajustes resultarán en un aumento de costos superior al 15%.
Usamos cookies para medir el tráfico y mejorar el sitio. Puedes aceptar o rechazar las cookies de analítica. Política de privacidad