RAG optimizado para entornos críticos: mitigación, detección y evaluación de alucinaciones (Aluora)

Abstract

Este trabajo ha profundizado en el análisis de las alucinaciones, centrándose específicamente en las de tipo factual, que son las más comunes. Se han desarrollado y aplicado modelos para su detección y evaluación, se han explorado técnicas de mitigación y se ha recurrido a fundamentos matemáticos para explicar su origen. El proyecto ha combinado un riguroso enfoque científico con pruebas prácticas, y otros experimentos orientados a ofrecer resultados tangibles al usuario final, partiendo de una hipótesis inicial para llegar a las conclusiones obtenidas. Este esfuerzo busca aportar claridad y herramientas concretas para abordar la generación de información no veraz, resultando especialmente crucial para la fiabilidad de su uso en sectores críticos.

This project provides an in-depth analysis of hallucinations, focusing specifically on factual hallucinations, which are the most common. Models for their detection and assessment have been developed and applied, mitigation techniques have been explored, and mathematical foundations have been used to explain their origin. The project has combined a rigorous scientific approach with practical tests and other experiments aimed at providing tangible results to the end user, starting from an initial hypothesis to reach the conclusions obtained. This effort seeks to provide clarity and concrete tools to address the generation of untruthful information, which is especially crucial for the reliability of its use in critical sectors.