NVIDIA introduce la descodificación especulativa DFlash para impulsar significativamente el rendimiento de inferencia en su arquitectura Blackwell, abordando los desafíos de latencia inherentes a los LLMs autoregresivos.
NVIDIA presenta el kit de herramientas BioNeMo Agent para facilitar la creación de científicos de IA capaces de leer artículos, escribir código y generar hipótesis para el descubrimiento en ciencias de la vida.
Los operadores de telecomunicaciones están adoptando la IA en las operaciones de red, la atención al cliente y los flujos de trabajo de back-office, pero la mayoría aún se encuentra en etapas tempranas de su camino hacia la autonomía completa. Los esfuerzos actuales de automatización generalmente operan en el Nivel 2–3 de la taxonomía de TM Forum, centrándose en optimizar soluciones predefinidas dentro de dominios selectivos.
SpaceX ha asegurado su tercer acuerdo de alquiler de GPU con Reflection AI, elevando sus ingresos anualizados a aproximadamente 28 mil millones de dólares, basado en una tasa calculada de más de 10 dólares por hora para las GPUs Blackwell. Esta valoración es aproximadamente el doble que la de Coreweave, destacando el rápido crecimiento y el alto poder de fijación de precios en el mercado de infraestructura de IA.
Esta publicación de Reddit del usuario Charuru comparte una imagen titulada "Kimi y GLM en código de vanguardia." El contenido sirve como referencia visual o punto de partida para discutir el rendimiento de los modelos Kimi y GLM en tareas de programación.
Ainara es una aplicación de escritorio local-first para el desarrollador de Dublín que funciona como un compañero de IA con memoria persistente entre sesiones. Permite a los usuarios cambiar entre modelos en la nube como Grok, Claude y Gemini, o modelos locales de Ollama, manteniendo el contexto sin problemas.
Un profesional de simulación ingenieril busca experiencias de despliegue en el mundo real de sustitutos de machine learning para reducir el costo de costosas ejecuciones de solucionadores de Dinámica de Fluidos Computacional (CFD) y Análisis de Elementos Finitos (FEA).
Los investigadores han lanzado Brain2Qwerty v2, una pipeline de IA no invasiva que descodifica oraciones en tiempo real a partir de registros de magnetoencefalografía (MEG) sin implantes quirúrgicos. El sistema alcanza una tasa de precisión de palabras del 61% en general y hasta el 78% para los mejores participantes, superando significativamente a métodos no invasivos anteriores.
Las noticias de IA de esta semana destacan la expansión de las iniciativas de ciberseguridad de OpenAI, el lanzamiento por parte de Sakana AI de un modelo de orquestación llamado Fugu y la creciente adopción del modelo de pesos abiertos GLM-5.2.
Este estudio investiga el aprendizaje en línea con conjuntos de acciones estructurados por similitud codificados mediante árboles enraizados, demostrando que la retroalimentación estándar de un solo punto no puede explotar estas similitudes. Los autores proponen algoritmos unificados para modelos de retroalimentación más ricos que reemplazan el número de acciones por un conteo efectivo consciente de la similitud para mejorar los límites de arrepentimiento.
Los investigadores proponen GRINQH, un marco de cuantización post-entrenamiento solo de pesos que acelera la decodificación de modelos de lenguaje grandes al unificar la cuantificación y la esparsificación. El método asigna dinámicamente los canales de peso a diferentes niveles de precisión basándose en las magnitudes de activación, abordando la naturaleza limitada por memoria de la etapa de decodificación.
Un usuario de Reddit pide ideas sobre cómo utilizar un antiguo servidor IBM System X V4 equipado con procesadores Xeon E5-2640 duales y 192 GB de RAM ECC DDR3 para modelos de lenguaje grandes.
Un usuario de r/LocalLLaMA pregunta cómo reducir el tiempo de procesamiento de aproximadamente 10 segundos requerido para un prompt del sistema de 7.1k tokens en cada nueva sesión al usar Ornith 35b con llama.cpp.
Un usuario de Reddit propone la posibilidad de entrenar Modelos de Lenguaje Grande para reconocer una oración secreta específica que desbloquee comportamiento malicioso, planteando preocupaciones sobre riesgos de seguridad tanto para modelos cerrados como de código abierto.
Una publicación de Reddit en la comunidad r/LocalLLaMA discute una imagen que sugiere que Deepseek V4 se lanzará oficialmente a mediados de julio e incluirá cambios en la estructura de precios de su API.
Una bifurcación de llama.cpp introduce una bandera --skip-layers que permite a los usuarios omitir bloques completos de transformador durante la carga, ofreciendo una alternativa o complemento a la cuantización para ajustar modelos en hardware limitado.
Un usuario de Reddit busca consejos sobre el método más efectivo para probar el rendimiento de modelos en varios niveles de cuantización antes de adquirir nuevo hardware.
La versión b9840 de llama.cpp introduce soporte de conversión para el modelo DeepSeek V4, incluyendo manejo específico para la variante Pro. Esta actualización integra la nueva arquitectura en la biblioteca junto con varias optimizaciones internas y correcciones de errores.
Este estudio presenta LoadKAN, un nuevo marco híbrido que combina un mecanismo de atención temporal aislado por características con una red de Kolmogorov-Arnold (KAN) para abordar la falta de interpretabilidad en la predicción de carga eléctrica basada en aprendizaje profundo.
El artículo presenta STAITUS, un marco unificado para el seguimiento no supervisado de objetos en vídeo que aborda las limitaciones de las representaciones basadas en slots existentes al desacoplar explícitamente la apariencia de la pose geométrica. Al aplicar la alineación temporal únicamente en el espacio de apariencia y forzando la separación espacial dentro de los fotogramas, el método evita que los slots se fijen en fondos estáticos durante el movimiento.