media r/LocalLLaMA · hace 1 h · open_models

Austria implementa GovGPT para 180.000 empleados federales usando Mistral y Open WebUI

Traducido del English → Español

Austria está desplegando «GovGPT», una plataforma de IA gubernamental construida sobre infraestructura soberana en el centro de datos federal BRZ. El sistema utiliza modelos de peso abierto de Mistral y la interfaz Open WebUI para atender las necesidades del sector público.

El despliegue apunta a aproximadamente 180.000 empleados federales, con implicaciones más amplias para alrededor de 250.000 trabajadores del sector público.
Los casos de uso planificados incluyen chat de documentos, bases de conocimiento internas, análisis de archivos electrónicos, solicitudes parlamentarias y futuros flujos de trabajo agénticos.
Este despliegue se destaca como una de las implementaciones gubernamentales más grandes de modelos de peso abierto y plataformas de chat de libre disponibilidad.

La iniciativa tiene como objetivo apoyar la eficiencia administrativa y abordar los desafíos de personal dentro del sector público austríaco.

Importancia 2/3 r/LocalLLaMA Mistral AI AI agents Open weights

Leer original

mistral.rs v0.8.10 añade soporte para /v1/skills en modelos locales

mistral.rs v0.8.10 introduce Agent Skills compatibles con OpenAI a través de un endpoint /v1/skills, permitiendo que los modelos locales ejecuten instrucciones y scripts específicos del dominio sin depender de APIs de vanguardia. La actualización soporta herramientas como la carga y descarga de archivos mediante /v1/files e incluye binarios precompilados para Linux, macOS y Windows.

arxiv arXiv cs.LG · hace 34 d

Ingeniería inversa de la atención en Transformers mediante programas ejecutables

Un nuevo método utiliza síntesis de programas para generar programas en Python que reproducen los patrones de atención en modelos Transformer. Estos programas logran más del 75% de similitud promedio Intersection-over-Union en datos no vistos y pueden reemplazar hasta el 25% de las cabezas de atención con impacto mínimo en el rendimiento del modelo, aumentando la perplexidad solo un 16% en promedio.

media r/LocalLLaMA · hace 35 d

Los modelos locales pasaron de ser mayormente inútiles a realmente útiles en un año

Los modelos locales evolucionaron de juguetes centrados principalmente en la privacidad a herramientas prácticas para programación, gestión privada de documentos y flujos de trabajo locales en un año. Aunque aún no logran reemplazar a los mejores modelos cerrados para tareas complejas que requieren planificación y corrección de errores, la mejora general en usabilidad y rendimiento es evidente.

arxiv arXiv cs.CL · hace 37 d · 5 vistas

LOGOS: Un modelo generativo de propósito general para las ciencias naturales

LOGOS es un modelo de lenguaje generativo unificado que representa objetos científicos y sus interacciones como secuencias de tokens en una gramática compartida. Logra un rendimiento consistente o superior en diversas tareas de ciencias naturales, demostrando la viabilidad de un único modelo que sirva a múltiples dominios. El modelo escala positivamente con el número de parámetros, y su diseño sugiere que la IA para la ciencia debería alinearse profundamente con los grandes modelos de lenguaje a través de arquitecturas compartidas y entrenamiento.

media r/LocalLLaMA · hace 1 h En vivo

Microsoft Research lanza el agente multimodal de uso del ordenador Fara1.5-27B

Microsoft Research AI Frontiers ha lanzado Fara1.5-27B, un agente multimodal de uso del ordenador diseñado para navegadores web. El modelo observa las interfaces del navegador mediante capturas de pantalla y ejecuta tareas emitiendo llamadas estructuradas a herramientas como hacer clic, escribir, desplazarse y buscar.