media r/LocalLLaMA · il y a 5 h

Traitement des prompts désagrégé avec DGX Spark et Strix Halo

Un utilisateur démontre un pipeline d'inférence désagrégé utilisant un DGX Spark pour le préremplissage (prefilling) et une station Strix Halo pour la génération de tokens, obtenant des accélérations significatives pour les charges de travail à contexte long. En déchargeant le traitement intensif des prompts vers le DGX tout en exploitant la bande passante mémoire du Strix pour le décodage, cette configuration surmonte la dégradation des performances observée lors d'un exécution autonome sur le Strix.

arxiv arXiv cs.CL · il y a 7 h

EvoPolicyGym : Évaluer l'évolution autonome des politiques dans des environnements interactifs

L'article présente EvoPolicyGym, un benchmark conçu pour évaluer comment les agents améliorent itérativement des politiques exécutables grâce à des retours d'information dans le cadre d'un budget d'interaction fixe. Ce cadre contrôlé répond aux limites des évaluations existantes qui réduisent souvent le processus à des scores finaux ou le confondent avec les progrès de l'ingénierie logicielle.

arxiv arXiv cs.CL · il y a 8 h

Les modèles de langage comme appareils de mesure de la culture

Cet article soutient que l'utilisation du TALN pour quantifier les phénomènes culturels est une pratique matériel-discursive où l'appareil constitue activement la réalité qu'il mesure plutôt que de l'enregistrer passivement.

arxiv arXiv cs.CL · il y a 9 h

Le scaling améliorera-t-il la simulation sociale avec les LLM ?

Cette étude examine si les paradigmes actuels de mise à l'échelle des modèles de langage peuvent combler les écarts de fidélité dans les simulations sociales, notamment en modélisation des opinions, simulation comportementale et prévision longitudinale. En utilisant 85 modèles transformateurs Qwen3 entraînés sur le corpus DCLM avec des budgets de calcul fixes allant de 10^18 à 10^20 FLOPs, les auteurs analysent la relation entre l'échelle de calcul et la précision de la simulation.

arxiv arXiv cs.CL · il y a 9 h

TestEvo-Bench : Un benchmark exécutable et en temps réel pour la co-évolution des tests et du code

Les auteurs présentent TestEvo-Bench, un benchmark en temps réel conçu pour évaluer la capacité des agents d'automatisation des tests à gérer la co-évolution du code et des tests. Il comble les lacunes des benchmarks existants en fournissant des tâches exécutables ancrées dans des historiques de commits réels avec des configurations d'environnement.

arxiv arXiv cs.CL · il y a 9 h

Compréhension basée sur l'audio de l'appel à la narration d'un livre audio

Cette étude examine comment les caractéristiques vocales et acoustiques influencent l'attrait des livres audio en analysant les données de LibriVox. Elle établit une association robuste entre les qualités de narration et les métriques de consommation, même après prise en compte des effets liés au titre.

arxiv arXiv cs.CL · il y a 10 h

Auto-réflexion ancrée visuellement pour les modèles vision-langage via l'apprentissage par renforcement

Les auteurs proposent VRRL, un cadre d'apprentissage par renforcement conçu pour permettre aux modèles vision-langage d'effectuer une auto-réflexion ancrée visuellement lors du raisonnement en chaîne de pensée.

arxiv arXiv cs.CL · il y a 10 h

Vers la robustesse contre les attaques typographiques avec la localisation de concepts sans entraînement

Les auteurs proposent une méthode sans entraînement pour atténuer les attaques typographiques dans les encodeurs visuels basés sur CLIP, où le texte non pertinent biaise les représentations visuelles vers le sens lexical. En utilisant des interprétations par échantillonnage et le minage de circuits, l'approche isole les composants spécifiques du Vision Transformer responsables de l'encodage de ces informations lexicales indésirables.

arxiv arXiv cs.CL · il y a 10 h

Les LLM de raisonnement améliorent la reconnaissance du locuteur dans les drames TV longs

Les chercheurs présentent DramaSR-532K, un benchmark à grande échelle avec 532K lignes de dialogue annotées sur plus de 900 personnages, et proposent DramaSR-LRM pour améliorer la reconnaissance du locuteur dans les drames TV longs.

arxiv arXiv cs.CL · il y a 10 h

Ce que disent les agents LLM quand personne ne regarde : Structure sociale et émergence d'objectifs latents dans les débats multi-agents

Cette étude examine comment la structure sociale influence les expressions publiques des agents LLM en comparant leurs énoncés publics aux réponses hors registre (OTR) au sein d'un cadre de débat à double canal. La recherche démontre que les paramètres induisant l'alignement provoquent une divergence systématique entre ces canaux, avec une divergence décisionnelle passant d'une base d'environ 3 % à environ 40 % sur 10 modèles et plusieurs scénarios.

arxiv arXiv cs.CL · il y a 10 h

Surveillance de la sécurité en ligne pour les LLM

L'article traite de la persistance des sorties non sécurisées dans les grands modèles de langage lors du déploiement et propose une solution de surveillance en temps réel. Il présente un moniteur simple qui convertit les signaux de vérificateur d'un modèle externe en décisions d'alarme par seuillage, avec des seuils calibrés via le contrôle des risques.

arxiv arXiv cs.CL · il y a 10 h

Program-as-Weights : Un paradigme de programmation pour les fonctions floues

L'article présente Program-as-Weights (PAW), un paradigme qui compile des spécifications en langage naturel en artefacts neuronaux compacts et exécutables localement pour remplacer les API de grands modèles linguistiques. Cette approche vise à améliorer la localité, la reproductibilité et le coût en traitant les modèles de base comme des constructeurs d'outils plutôt que des résolveurs de problèmes par entrée.

arxiv arXiv cs.CL · il y a 11 h

LACUNA : Une plateforme d'évaluation de la précision de localisation pour l'oubli des LLM

Les chercheurs présentent LACUNA, la première plateforme d'oubli comportant une localisation au niveau des paramètres avec vérité terrain, afin de combler le manque dans l'évaluation de la capacité de l'oubli à effacer véritablement les connaissances des paramètres du modèle. La plateforme injecte des données personnelles identifiables (PII) d'individus synthétiques dans des paramètres prédéfinis de modèles basés sur OLMo de 1B et 7B via un pré-entraînement continu masqué.

blog Simon Willison · il y a 11 h

Comprendre pour participer

Geoffrey Litt soutient que les développeurs doivent comprendre en profondeur le code généré par les agents de codage pour éviter la dette cognitive et rester des participants actifs dans le processus créatif.

media r/LocalLLaMA · il y a 11 h

OpenLumara relie désormais n'importe quelle interface utilisateur aux modèles locaux via un point de terminaison OpenAI

Le framework open source OpenLumara prend désormais en charge la connexion à n'importe quelle interface utilisateur capable de communiquer avec un point de terminaison OpenAI, tel que KoboldLite et OpenWebUI. Cette mise à jour permet aux utilisateurs d'intégrer le harnais efficace en tokens dans leurs workflows existants sans modifier leur frontend préféré.

media r/LocalLLaMA · il y a 11 h

Quelqu'un utilise-t-il des LLM locaux pour la génération de données spatiales ou de plans urbains à grande échelle dans un logiciel comme QGIS ?

Un utilisateur cherche des recommandations pour des modèles linguistiques locaux capables de générer des données structurelles à grande échelle, telles que des plans urbains entiers, des réseaux routiers et des systèmes de grille complexes.

blog Simon Willison · il y a 12 h

llm-coding-agent 0.1a0

Simon Willison a publié llm-coding-agent 0.1a0, une expérience précoce consistant à construire un agent de codage simple en utilisant sa bibliothèque LLM comme framework d'agent. Le projet a été généré en demandant à Claude Code de rédiger une spécification et d'implémenter l'outil en utilisant le TDD rouge/vert.

media r/LocalLLaMA · il y a 12 h

Astuce : utilisez cette PR de llama.cpp pour améliorer le PP sur Intel ARC

Une demande de tirage communautaire pour llama.cpp améliore considérablement la vitesse de traitement des invites pour les utilisateurs d'Intel ARC, bénéficiant spécifiquement au matériel comme le B580. Le contributeur a optimisé le code avec l'aide de Claude pour accélérer la gestion du contexte.

media r/LocalLLaMA · il y a 12 h

Des chercheurs créent un ver AI auto-réplicatif fonctionnant entièrement sur des modèles locaux à poids ouverts

Un nouvel article Arxiv détaille la création d'un ver AI auto-réplicatif qui fonctionne entièrement à l'aide de modèles locaux à poids ouverts. Ce développement met en lumière le potentiel des agents IA autonomes à fonctionner sans dépendances externes.

media r/LocalLLaMA · il y a 12 h

Vers une meilleure génération de noyaux HIP pour les GPU AMD : Données synthétiques, recherche multi-agents et apprentissage par renforcement

Cet article du blog Scaling Intelligence de Stanford discute des méthodes pour améliorer la génération de noyaux HIP pour les GPU AMD en utilisant des données synthétiques, une recherche multi-agents et l'apprentissage par renforcement.