Weijia Shi
Faire fonctionner la génération augmentée par recherche quand le modèle de langage lui-même est une boîte fermée que vous ne pouvez pas soumettre à un réglage fin (fine-tuning).
L'hypothèse dominante dans les systèmes de génération augmentée par recherche est que l'on entraîne ensemble le module de recherche (retriever) et le générateur, ou au moins que l'on soumet l'un à un réglage fin (fine-tuning) pour l'adapter à l'autre. REPLUG (2023, auteur principal) a montré que ce n'est pas nécessaire — le module de recherche (retriever) peut être entraîné par rapport à un modèle de langage fermé, traité comme une fonction de notation (scoring) en boîte noire et figée, et le système obtenu améliore les sorties du LLM sans jamais toucher à ses poids. La conséquence méthodologique est que la recherche sur l'augmentation par recherche a cessé de ne s'appliquer qu'aux modèles à poids ouverts ; c'est à cette condition seulement qu'elle devient pertinente pour évaluer des systèmes comme les grands moteurs d'IA commerciaux.