Задолго до того, как RAG стал термином, Yih строил поисковую основу, от которой он зависит. Dense Passage Retrieval (2020) — статья, которая сделала плотный векторный поиск конкурентоспособным с традиционными методами на основе инвертированных индексов для open-domain QA; практически каждая современная RAG-система происходит от этого результата, включая те, которые его не цитируют. Читать Yih — самый прямой способ понять, почему именно поиск в генерации с поиском обычно оказывается местом, где системы незаметно ломаются, и почему FActScore, одним из соавторов которого он был, оценивает атомарные факты по внешнему источнику знания, а не по параметрической памяти модели.

Стоит читать, когда
вы хотите понять, почему модель, дополненная RAG, всё равно галлюцинирует — и где именно сбой: в поиске или в генерации.
Темы
плотный поиск фрагментов; open-domain question answering как дисциплина; что фактологическая привязка к источнику исправляет и чего не исправляет.
Ключевые работы
Dense Passage Retrieval / DPR (2020, соавтор); WikiQA (2015, соавтор); FActScore (2023, соавтор).