media r/LocalLLaMA · hace 1 h · open_models

Hugging Face lanza The Stack v3, el conjunto de datos de código abierto más grande

Traducido del English → Español

Hugging Face ha lanzado The Stack v3, descrito como el conjunto de datos de código abierto más grande hasta la fecha. El lanzamiento proporciona dos métodos de acceso distintos para adaptarse a las necesidades de diferentes usuarios.

stack-v3-train: Una versión casi deduplicada, filtrada por calidad y con PII eliminada, con contenidos en línea, accesible a través de la biblioteca Hugging Face datasets.
stack-v3-full: Todo el corpus de 114 TB almacenado como un HF Storage Bucket, preservando todos los duplicados con cluster IDs y stubs para archivos excluidos.

Este lanzamiento ofrece a investigadores y desarrolladores acceso a un enorme repositorio de código en bruto, mientras también proporciona una variante preprocesada para uso inmediato en entrenamiento.

Importancia 2/3 r/LocalLLaMA Hugging Face Open weights Training data

Leer original

RAGU presenta un motor GraphRAG de múltiples pasos con el extractor compacto Meno-Lite-0.1

RAGU es un motor GraphRAG modular de código abierto que mejora la integración del conocimiento estructurado separando la extracción de entidades de su consolidación. Utiliza un proceso de extracción tipificado en dos etapas, deduplicación respaldada por DBSCAN, resumen con LLM y detección de comunidades Leiden para reducir el ruido y la fragilidad presentes en los sistemas de paso único.

lab IBM Research (Granite) · hace 8 d

IBM abre el código fuente de CodeAlchemy, un conjunto de datos sintético masivo de código de alta calidad

IBM ha abierto el código fuente de CodeAlchemy, una canalización y un conjunto de datos sintéticos diseñados para mejorar el rendimiento de los modelos de IA al emparejar código con trazas de ejecución. El lanzamiento incluye casi 1 billón de tokens en 15 lenguajes de programación, sumando al menos 200 veces el tamaño de Wikipedia.

arxiv arXiv cs.CL · hace 10 d · 1 vista

RAGU introduce GraphRAG de múltiples pasos con el extractor compacto Meno-Lite-0.1

RAGU es un motor GraphRAG modular de código abierto que mejora la integración de conocimiento estructurado separando la extracción de la consolidación mediante un proceso en dos etapas que involucra extracción tipada, deduplicación, resumen y detección de comunidades.

arxiv arXiv cs.CL · hace 11 d

Freya-TTS lanza un modelo de TTS turco sin tokenizador con WER del 8,0%

Los investigadores presentan Freya-TTS, un modelo compacto de texto a voz sin tokenizador optimizado para turco que alcanza una tasa de error de palabras (WER) del 8,0% en la benchmark Freya-TR-Eval. El Diffusion Transformer condicional no autoregresivo con 183,2 millones de parámetros, basado en matched flow, opera en el espacio latente continuo congelado de AudioVAE2, permitiendo una reconstrucción de alta calidad a 48 kHz sin fonemizador ni tokenizador de habla discreto.

arxiv arXiv cs.AI · hace 15 d

DiaLLM investiga la brecha entre robustez y generación en la adaptación a dialectos del inglés

El estudio DiaLLM aborda la desconexión entre comprender y producir inglés dialectal mediante el preentrenamiento continuo de tres familias de modelos de lenguaje de peso abierto en el Corpus Internacional del Inglés. Aplica paradigmas de postentrenamiento implícitos y explícitos combinados con tres estrategias de alineación para comparar el inglés australiano, indio y británico septentrional.