Furu Wei

El sentido estándar del flujo de información en los sistemas aumentados por recuperación va de la recuperación a la generación: primero se obtienen documentos, luego se escribe la respuesta. Query2doc (2023, con Wei como autor sénior) invierte ese orden en la entrada: dada la consulta del usuario, hace que el modelo de lenguaje genere primero un documento de respuesta plausible y luego usa ese documento sintético como señal adicional en el paso de recuperación. El truco funciona porque esos documentos generados, aunque no son fiables sobre hechos concretos, suelen ser fiables sobre el tipo de documento que el usuario espera encontrar de manera implícita; y esa es exactamente la señal que necesitan los recuperadores vectoriales.

Vale la pena seguirlo cuando

se quiere pensar en recuperación y generación como bidireccionales, no como un pipeline de sentido único.

Temas

expansión de consultas mediante documentos sintéticos generados por LLM; la dirección inversa del RAG estándar; contribuciones de modelos fundacionales a la metodología de recuperación.

Obras clave

Query2doc: Query Expansion with Large Language Models (2023, autor sénior); contribuciones más amplias a modelos fundacionales y preentrenamiento, incluidas BEiT, la familia LayoutLM y MiniLM.