media Hugging Face Forums · hace 1 h · open_models

ELIZA con autoencoder disperso

Traducido del English → Español

Una nueva implementación del chatbot ELIZA utiliza una arquitectura de autoencoder disperso para almacenar entradas de conversación en una capa de memoria latente, con el objetivo de mejorar los métodos tradicionales de coincidencia de palabras clave. El sistema emplea una estructura codificador-decodificador T5 con una capa de memoria de 32,768 neuronas, donde las entradas similares se activan mediante aprendizaje contrastivo.

El modelo logra un escalado logarítmico de la memoria (log(n)) y una fuerte resistencia al olvido catastrófico mediante el uso de neuronas monosemánticas y la activación únicamente de las conexiones top-k.
El entrenamiento con 10,000 pares de preguntas y respuestas del conjunto de datos 'naklecha/minecraft-question-answer-700k' permitió la memorización latente de todas las entradas en tres horas.

A diferencia de ELIZA estándar que produce secuencias almacenadas exactas, el decodificador puede modificar ligeramente las respuestas, aunque aún requiere que exista una entrada similar para cada pregunta.

El autor señala que, si bien el enfoque demuestra velocidad y eficiencia de memoria, las limitaciones actuales impiden escalar a conjuntos de datos más grandes para verificar completamente las afirmaciones sobre compresión y mitigación del olvido.

Importancia 1/3 Confianza 1/3 Hugging Face Forums Retrieval & RAG Training methods

Artículos relacionados

media Hugging Face Forums · hace 6 d

ShinBay-UCTF propone un marco conceptual para el aprendizaje continuo con preservación de la privacidad y conocimiento comprimido

K7007 presenta ShinBay-UCTF, un marco conceptual que aborda limitaciones en los sistemas de IA respecto a la redundancia multilingüe, la memoria episódica persistente y la adaptación continua. La propuesta describe una arquitectura unificada compuesta por tres capas interactuantes: Universal Compressed Training Format (UCTF), Memoria Episódica Inspirada Biológicamente y Aprendizaje Continuo Impulsado por el Entorno.

arxiv arXiv cs.CL · hace 15 d · 2 vistas

La supervisión contrafactual mejora el enrutamiento de búsqueda en LLM para Gemma y Qwen

Los investigadores abordan la ineficiencia de los modelos de lenguaje aumentados con búsqueda al formular un problema de enrutamiento de búsqueda a nivel de instancia que decide si se necesita evidencia externa para mejorar el éxito de la tarea. Derivan la supervisión comparando los resultados sin búsqueda y con búsqueda forzada para construir un oráculo, que sirve tanto como criterio de evaluación como señal de aprendizaje para entrenar políticas mediante ajuste fino supervisado y optimización de preferencias.

arxiv arXiv cs.CL · hace 15 d · 1 vista

LongCrafter utiliza síntesis guiada por grafo de evidencias para mejorar la comprensión de contexto largo

Los autores proponen LongCrafter, un marco estructurado para sintetizar datos de ajuste fino supervisado (SFT) con contexto largo que aborda limitaciones en la cobertura de tareas y la fidelidad. Combina una taxonomía jerárquica de 32 tipos de tareas con un pipeline fundamentado en evidencias para generar pares instrucción-respuesta estrictamente basados en fragmentos de evidencia localizados.

arxiv arXiv cs.CL · hace 16 d

TR-RAG utiliza RL con regularización del maestro para corregir la deriva lingüística en RAG multilingüe

Los investigadores proponen TR-RAG, un método de aprendizaje por refuerzo con regularización del maestro que aborda la deriva lingüística y el uso poco fiable de evidencias en la generación aumentada con recuperación (RAG) multilingüe basada en evidencias en inglés. El enfoque acopla la optimización de la recompensa con la destilación on-policy, utilizando un maestro congelado para proporcionar anclas de reverse-KL por prefijo para las respuestas muestreadas por un estudiante compacto.

media r/LocalLLaMA · hace 26 d · 2 vistas

Reseña del libro: Modelos de Lenguaje Pequeños Específicos del Dominio por Guglielmo Iozzia

Esta reseña evalúa el libro de Guglielmo Iozzia "Modelos de Lenguaje Pequeños Específicos del Dominio", que aboga por un cambio de paradigma desde los modelos de lenguaje grandes generalistas hacia modelos de lenguaje pequeños (SLM) especializados y ajustados finamente. El revisor argumenta que los SLM ofrecen un control, visibilidad y eficiencia de costos superiores para tareas específicas en comparación con el hype alrededor de la inteligencia artificial general.