Tous les articles
media r/LocalLLaMA · il y a 1 h En direct

OpenLumara relie désormais n'importe quelle interface utilisateur aux modèles locaux via un point de terminaison OpenAI

Le framework open source OpenLumara prend désormais en charge la connexion à n'importe quelle interface utilisateur capable de communiquer avec un point de terminaison OpenAI, tel que KoboldLite et OpenWebUI. Cette mise à jour permet aux utilisateurs d'intégrer le harnais efficace en tokens dans leurs workflows existants sans modifier leur frontend préféré.

blog Simon Willison · il y a 4 h

Utilisation de DSPy pour évaluer et améliorer les invites système SQL de l'agent Datasette

Simon Willison a utilisé Claude Code avec le modèle Fable 5 pour automatiser l'évaluation et l'optimisation des invites système de l'agent Datasette, en ciblant spécifiquement sa fonctionnalité d'exécution de requêtes SQL en lecture seule. Le processus impliquait l'installation de la dernière version alpha de Datasette et de DSPy afin d'identifier les faiblesses dans la manière dont l'agent gère les informations de schéma.

media r/LocalLLaMA · il y a 4 h

Benchmarks locaux avec une RTX 3090 - Qwen3.6 27b vs Ornith

Un utilisateur a comparé Qwen3.6 27b, Gemma4 26B A4B QAT et Ornith1.0 35B MoE en utilisant le framework inspect-ai sur une RTX 3090 pour évaluer les performances des modèles locaux. Les tests ont révélé des résultats mitigés sur les benchmarks de connaissances générales, d'ancrage (grounding) et de codage, Qwen3.6 menant généralement aux scores tandis qu'Ornith montrait des forces dans des domaines spécifiques comme DROP.

media r/LocalLLaMA · il y a 7 h

L'analyse de 2,3k applications IA locales révèle 82 catégories et des cas d'utilisation diversifiés

Une analyse du Mac App Store a identifié 2 259 applications IA locales sur plus de 20 000 entrées scrapées, mettant en évidence un écosystème croissant d'outils de niche qui emballent des modèles avec des workflows spécifiques. L'enquête couvre 82 catégories distinctes, allant des tâches courantes comme la transcription et l'OCR à des fonctions spécialisées telles que le style vestimentaire et l'assistance santé pour animaux.