RAG Normativa – Pipeline Industrial de Consulta Legal

Pipeline completo de RAG para consulta de normativa pública: ingesta, limpieza, indexación vectorial en Qdrant y recuperación semántica, orquestado con Apache Airflow y expuesto vía FastAPI.

📋 Descripción del Proyecto

Este proyecto implementa un pipeline industrial completo de Retrieval-Augmented Generation (RAG) orientado a la consulta de normativa pública. El objetivo es llevar un sistema RAG a un estándar de despliegue productivo, con atención especial a la calidad de los datos de entrada, la evaluación sistemática del desempeño y la mantenibilidad del sistema a lo largo del tiempo.

El pipeline cubre todas las etapas del ciclo de vida del sistema: ingesta de documentos normativos, limpieza y normalización de texto legal (con manejo de estructuras propias de documentos jurídicos como artículos, incisos y referencias), chunking semántico, generación de embeddings e indexación vectorial en Qdrant. La recuperación semántica selecciona los fragmentos más relevantes para cada consulta, que son luego utilizados por el LLM para generar una respuesta fundamentada.

La orquestación de los procesos de ingesta y evaluación se realiza con Apache Airflow, garantizando reproducibilidad y trazabilidad de cada ejecución. Los servicios de consulta se exponen vía FastAPI y la interfaz de usuario es una aplicación Streamlit. El proyecto incluye un módulo de evaluación automática de desempeño que mide métricas de recuperación (recall, precisión) y calidad de respuesta, permitiendo detectar regresiones cuando se actualiza la normativa o se cambia el modelo.

Características y Funcionalidades

Ingesta y normalización legal

Pipeline de limpieza de texto jurídico con manejo de artículos, incisos y referencias cruzadas.

Indexación vectorial en Qdrant

Almacenamiento y búsqueda semántica de fragmentos normativos en base de datos vectorial.

Orquestación con Airflow

DAGs de ingesta y evaluación garantizan reproducibilidad y trazabilidad de cada ejecución.

API FastAPI + interfaz Streamlit

Servicios de consulta expuestos vía REST y aplicación web para uso interactivo.

Evaluación automática de desempeño

Métricas de recuperación y calidad de respuesta para detectar regresiones en actualizaciones.

Estándar de despliegue productivo

Enfoque en llevar el sistema RAG más allá del prototipo: calidad, monitoreo y mantenibilidad.