Furu Wei

Dans les systèmes augmentés par recherche, le sens standard du flux d'information va de la recherche vers la génération : on récupère d'abord des documents, puis on rédige la réponse. Query2doc (2023, avec Wei comme auteur senior) inverse ce sens au niveau de l'entrée — à partir de la requête de l'utilisateur, le modèle de langage génère d'abord un document-réponse plausible, puis utilise ce document synthétique comme signal supplémentaire dans l'étape de recherche. L'astuce fonctionne parce que ces documents générés, même s'ils sont peu fiables sur les faits précis, sont généralement fiables sur le type de document que l'utilisateur s'attend implicitement à trouver — et c'est exactement le signal dont les modules de recherche vectorielle (retriever) ont besoin.

À lire lorsque

vous voulez penser la recherche et la génération comme bidirectionnelles plutôt que comme un pipeline à sens unique.

Thèmes

expansion de requêtes par documents synthétiques générés par LLM; direction inverse du RAG standard; contributions des modèles de fondation à la méthodologie de recherche.

Travaux clés

Query2doc: Query Expansion with Large Language Models (2023, auteur senior); contributions plus larges aux modèles de fondation et au pré-entraînement, dont BEiT, la famille LayoutLM et MiniLM.