Más contexto no es mejor. Paradoja de la dilución vectorial en RAG corporativos

TL;DR

Este artículo investiga la dilución vectorial en sistemas RAG cuando se inyecta contexto en fragmentos de documentos empresariales. Formaliza el ratio de inyección de contexto ($CIR$) y un marco matemático que explica cómo el vector final se aproxima a $\mathbf{v}_{final} \approx (1 - \lambda)\mathbf{v}_{local} + \lambda \mathbf{v}_{global}$, con $\lambda$ aumentando con $CIR$. Mediante un experimento en Agri-Corp-2025 con dos embeddings de alta y media dimensionalidad, se observa una curva de rendimiento en forma de 'U invertida' y se identifica un sweet spot alrededor de $CIR \approx 0.35$, superado el cual la precisión y la resolución interna se degradan (por ejemplo, $CIR > 0.6$). Se propone la estrategia Dynamic Density-Aware Injection (DDAI) para adaptar la inyección en función de la densidad de información y preservar la señal local, con implicaciones prácticas para implementaciones de RAG en entornos corporativos.

Abstract

Técnicas recientes de "Contextualized Chunking" inyectan resúmenes para mejorar el contexto en RAG, pero introducen una "dilución vectorial" que opaca el contenido local. Evaluando distintos ratios de inyección, demostramos una curva en "U invertida": una inyección moderada mejora el "Recall" (+18%), pero superar un umbral crítico (CIR > 0.4) reduce la precisión en un 22% para consultas específicas. Proponemos un marco teórico para calcular el ratio óptimo de inyección. -- Recent "Contextualized Chunking" techniques inject summaries to improve RAG context but introduce "vector dilution" drowning out local content. Evaluating various injection ratios, we demonstrate an "inverted U" curve: moderate injection boosts Recall (+18%), but exceeding a critical threshold (CIR > 0.4) drops precision by 22% for specific queries. We propose a theoretical framework to calculate the optimal injection ratio.