Weijia Shi
Hacer que la generación aumentada por recuperación funcione cuando el propio modelo de lenguaje es una caja cerrada a la que no se puede aplicar ajuste fino (fine-tuning).
El supuesto dominante en los sistemas de generación aumentada por recuperación es que se entrenan el recuperador y el generador conjuntamente, o al menos se aplica ajuste fino (fine-tuning) a uno para que encaje con el otro. REPLUG (2023, autora principal) mostró que esto no es necesario: el recuperador puede entrenarse contra un modelo de lenguaje de código cerrado tratado como una función de puntuación de caja negra congelada, y el sistema resultante mejora las salidas del LLM sin tocar jamás sus pesos. La consecuencia metodológica es que la investigación en generación aumentada por recuperación dejó de ser algo aplicable solo a modelos con pesos abiertos, que es la única condición bajo la cual resulta relevante para evaluar sistemas como los grandes motores comerciales de IA.