LegalHalluLens presenta un marco para auditar alucinaciones de IA en contextos legales mediante el análisis de perfiles tipificados de alucinaciones en cuatro categorías de afirmaciones. Revela una brecha de 38-40 puntos entre las afirmaciones obligatorias/numéricas y temporales, y muestra que dos sistemas con tasas de alucinación idénticas del 52% pueden tener direcciones de riesgo opuestas. El marco utiliza un Índice de Dirección de Riesgo y pipelines de debate calibrados para reducir las detecciones fabricadas en un 45%, ofreciendo diagnósticos accionables para el despliegue confiable de IA legal.
arxiv
arXiv cs.LG
·
hace 76 d
·
fuente: hace 77 d
·
research
LegalHalluLens: Auditoría de alucinaciones en IA legal
Traducido del English → Español
Importancia 3/3
Nueva función frente a los líderes
Nuevo entorno de evaluación con diferenciadores
arXiv cs.LG
Mistral AI
OpenAI
xAI
AI agents
Reasoning models
Safety & alignment
Artículos relacionados
arxiv
arXiv cs.AI
·
hace 74 d
·
4 vistas
LedgerAgent: Estado estructurado para agentes de llamada de herramientas adherentes a la política
LedgerAgent introduce un libro mayor estructurado para mantener los estados de las tareas por separado en agentes de llamada de herramientas. Convierte los estados en prompts y aplica restricciones de la política antes de la ejecución de herramientas, reduciendo las violaciones de la política y mejorando el rendimiento en dominios de atención al cliente.
arxiv
arXiv cs.CL
·
hace 74 d
·
4 vistas
LedgerAgent: Estado estructurado para agentes de llamada a herramientas adherentes a la política
LedgerAgent introduce un libro contable estructurado para mantener los estados de las tareas separados en agentes que llaman a herramientas. Convierte estos estados en prompts y aplica restricciones de políticas antes de la ejecución de las herramientas, reduciendo las violaciones de políticas y mejorando el rendimiento en dominios de atención al cliente.
arxiv
arXiv cs.CL
·
hace 76 d
·
3 vistas
LegalHalluLens: Auditoría de alucinaciones en IA legal
LegalHalluLens introduce un marco para auditar alucinaciones de IA en contextos legales mediante el análisis de perfiles de alucinación tipificados en cuatro categorías de afirmaciones. Revela una brecha de 38-40 puntos entre las afirmaciones obligatorias/numéricas y temporales, y muestra que dos sistemas con tasas de alucinación idénticas del 52% pueden tener direcciones de riesgo opuestas. El marco utiliza un Índice de Dirección de Riesgo y pipelines de debate calibrados para reducir las detecciones fabricadas en un 45% y mejorar la responsabilidad en el despliegue de IA legal.
arxiv
arXiv cs.AI
·
hace 74 d
·
3 vistas
Verificación probabilística eficiente y válida para agentes de IA
Un nuevo marco permite la aplicación segura y probabilística de políticas para agentes de IA en entornos ambiguos. Utiliza optimización robusta distribucional para calcular límites superiores rigurosos sobre las probabilidades de violación de políticas sin asumir independencia de predicados. El método supera a los enfoques anteriores en benchmarks de agentes con terminales y llamadas a herramientas, mejorando el equilibrio entre seguridad y utilidad.
arxiv
arXiv cs.AI
·
hace 75 d
·
4 vistas
Marco de doble agente para traducción verificada entre modelos
Un marco de doble agente convierte protocolos experimentales en lenguaje natural en comandos ejecutables para plataformas robóticas de laboratorio. Utiliza un Agente Analizador y un motor de mapeo basado en reglas para traducir los protocolos, con un Agente de Validación LLM heterogéneo que asegura la precisión e inicia la autocorrección. El marco permite con éxito la ejecución autónoma de extremo a extremo de experimentos basados en placas de microtitulación como el ensayo de Bradford.