media r/LocalLLaMA · à l'instant · open_models

Aleph-Alpha lance Kolibri-1, un modèle MoE de 78 milliards de paramètres avec jusqu'à 1M de contexte

Traduit de English → Français

Aleph-Alpha a lancé Kolibri-1, un grand modèle de langage disponible sur Hugging Face sous la licence Apache 2.0.

Le modèle contient 78 milliards de paramètres totaux avec 3,46 milliards de paramètres actifs.
Il prend en charge une fenêtre de contexte allant jusqu'à 1 million de tokens.
Un rapport technique détaillant l'architecture et l'entraînement du modèle est disponible auprès d'Aleph-Alpha.

La publication offre une option à poids ouverts pour les utilisateurs nécessitant des capacités de contexte long.

Importance 2/3 r/LocalLLaMA Open weights

Eunoia-Logos-Adri open-source le pipeline de fine-tuning complet The Forge pour Eunoia

Le groupe derrière le modèle Eunoia, basé sur Llama-3.1-Dolphin-3.0-8B, a open-sourcé "The Forge", un pipeline architectural spécialisé et une stratégie de fine-tuning algorithmique sous la licence CC0 1.0 Universal.

media r/LocalLLaMA · il y a 13 h · 2 vues

Unitree lance UnifoLM-WLA-1.0, un modèle de 6B pour 64 tâches humanoïdes

Unitree Robotics a lancé UnifoLM-WLA-1.0, un modèle fondamental à usage général conçu pour les robots humanoïdes. Le modèle unique de 6 milliards de paramètres est entraîné sur environ 2 500 heures de données réelles de robots et gère 64 tâches distinctes, dont 10 actions corporelles complètes et 54 opérations sur table.

lab Hugging Face Blog · il y a 22 h

Ai2 open-source AstaBrief 8B, un modèle rapide de génération de rapports scientifiques

Ai2 a open-sourcé AstaBrief 8B, un petit modèle de langage conçu pour générer des rapports scientifiques cités à partir de questions de recherche et d'extraits de littérature récupérés. Le modèle est disponible avec ses données d'entraînement pour permettre aux chercheurs d'étudier, reproduire et améliorer l'approche.

media Hugging Face Forums · il y a 1 j · 1 vue

ORTUS AI lance RightWayUp, un modèle ouvert de rotation d'images à 360°

ORTUS AI a publié RightWayUp sous la licence Apache-2.0, un modèle conçu pour prédire les angles de rotation d'image de 0 à 359 degrés avec un score de confiance et la capacité de s'abstenir en cas d'incertitude.

media MarkTechPost · il y a 1 j · 4 vues

Cloudflare publie des modèles de décision à poids ouverts Clef retournant des probabilités typées

Cloudflare a publié Clef et Clef-flash, ses premiers modèles entraînés par l'équipe Workers AI. Il s'agit de modèles de décision qui lisent un état d'entrée et un schéma de questions typées pour retourner une probabilité pour chaque réponse autorisée, plutôt que de générer du texte libre.