Tarjetas de acelerador AI de Tenstorrent disponibles
Tenstorrent ha lanzado las tarjetas de acelerador AI Wormhole y Blackhole. La sección de hardware enumera estas tarjetas, con discusiones sobre los modelos que probablemente sean compatibles.
Tenstorrent ha lanzado las tarjetas de acelerador AI Wormhole y Blackhole. La sección de hardware enumera estas tarjetas, con discusiones sobre los modelos que probablemente sean compatibles.
Un Space de Hugging Face ha estado mostrando 'Reiniciando' en el commit 8240352 durante más de 16 horas, a pesar de que múltiples commits más recientes se han construido correctamente. El contenedor inicia con normalidad según los registros, pero el tráfico nunca cambia a la nueva versión, y las acciones de recuperación como reconstrucción de fábrica o reinicio no tienen efecto.
El usuario solicita la eliminación forzada del espacio de Hugging Face "kayinda/rxsteward" que está atascado en el estado "Building". Todos los intentos de eliminación fallan con errores 403 o errores de entrada no válida 400, lo que impide la reutilización del nombre.
La interfaz de usuario de Hugging Face muestra incorrectamente espacios estancados en 'Iniciando', mientras que las operaciones del backend tienen éxito. Revisar los registros del contenedor revela una inicialización exitosa, lo que indica un error de sincronización del frontend. Los usuarios no deben modificar su código; el problema es un error de la interfaz de usuario a nivel de plataforma.
Hugging Face ha presentado una nueva función que permite a los usuarios desplegar servidores vLLM directamente a través de la plataforma Hugging Face Jobs utilizando un único comando.
Un estudio reciente investiga qué tokens específicos son predichos con mayor precisión por los modelos lingüísticos híbridos en comparación con las arquitecturas densas estándar. La investigación se centra en comprender la distribución de los errores de predicción entre diferentes tipos de tokens, como palabras raras y fragmentos de código. Al analizar los paisajes de pérdida, los autores identifican que los modelos híbridos destacan en la captura de dependencias a largo plazo en regiones de datos dispersos. Los hallazgos sugieren que el mecanismo de mezcla de expertos permite una utilización más eficiente de los parámetros durante la inferencia. Esta mejora en la precisión es particularmente notable para los tokens con baja frecuencia en el corpus de entrenamiento. El artículo proporciona un desglose detallado de las métricas de rendimiento en varios conjuntos de datos de referencia. Estos resultados destacan el potencial de las arquitecturas híbridas para manejar eficazmente estructuras lingüísticas diversas.
El Tablero de Clasificación FFASR se lanzó para evaluar sistemas de reconocimiento de voz en condiciones del mundo real. Proporciona una referencia para evaluar el rendimiento de modelos de reconocimiento automático de voz en diversos entornos y casos de uso.
El NeMo AutoModel de NVIDIA permite un ajuste fino más rápido de modelos de transformadores mediante la automatización de la selección y optimización del modelo. Reduce el tiempo de desarrollo y mejora la eficiencia en el entrenamiento de modelos de lenguaje grandes en hardware de NVIDIA.
Transformers.js ha comenzado a experimentar con la propuesta API de almacenamiento entre orígenes. La iniciativa tiene como objetivo habilitar el intercambio seguro de datos entre orígenes en aplicaciones web sin requerir interacción del usuario ni permisos explícitos.
ParallelKernelBench evalúa a los LLM en la escritura de núcleos CUDA multi-GPU rápidos para 87 cargas de trabajo reales. El modelo principal genera núcleos que rinden menos de un tercio de la velocidad de las implementaciones óptimas, aunque algunas salidas superan a cualquier código público existente.
CUGA presenta un marco de trabajo ligero que permite a los desarrolladores construir aplicaciones reales con agentes. Incluye 24 ejemplos funcionales que demuestran implementaciones prácticas en diversos casos de uso.
OpenClaw ha lanzado una iniciativa gratuita para utilizar modelos de IA locales en el triaje de su repositorio. Esto permite a los colaboradores de la comunidad gestionar de manera eficiente los problemas y las solicitudes de extracción sin depender de servicios externos. El esfuerzo tiene como objetivo mejorar la transparencia y la accesibilidad en el mantenimiento de proyectos de código abierto.
Hugging Face está lanzando huggingface_hub semanalmente, integrando modelos de IA, herramientas de código abierto y un proceso de revisión humana para garantizar la calidad y la seguridad. La actualización enfatiza la transparencia, la participación de la comunidad y el desarrollo responsable de la IA mediante una validación continua con humanos en el bucle.
PP-OCRv6, un nuevo modelo de reconocimiento óptico de caracteres, ya está disponible en Hugging Face. Admite 50 idiomas y escala desde 1,5 millones hasta 34,5 millones de parámetros, ofreciendo mayor precisión y eficiencia en diversos idiomas.
La versión 1.15.0 de crewAI introduce mejoras significativas en las definiciones de Flow, incluyendo carga declarativa unificada, soporte para crews en línea y nuevas acciones compuestas como `each` y acciones de agente único.
Un nuevo estudio explora alternativas a LoRA, la técnica de ajuste fino más popular, evaluando si otros métodos pueden lograr un mejor rendimiento con menor costo computacional. La investigación encuentra que, aunque algunos enfoques muestran potencial, ninguno supera consistentemente a LoRA en diversas tareas y conjuntos de datos.
La plataforma AutoGPT ha lanzado la versión 0.6.65, introduciendo actualizaciones significativas en el sistema Copilot, la navegación de la interfaz de usuario y la fiabilidad de la infraestructura.
El proyecto llama.cpp ha lanzado la versión b9803, que incluye una corrección para OpenCL que vacía los lotes de perfilado al apagar el sistema para lotes incompletos. Esta actualización proporciona binarios para macOS, Linux, Windows, Android y openEuler a través de varios backends de hardware.
MosaicLeaks ha publicado un informe que cuestiona si los agentes de investigación pueden mantener la confidencialidad de manera fiable. El informe destaca preocupaciones sobre la exposición de datos y la confianza en las herramientas de investigación impulsadas por IA. Pide medidas de privacidad más sólidas y transparencia en cómo estos agentes manejan información sensible.
Esta versión intenta corregir la compilación de Flatpak.