Wen-tau Yih
Den Retrieval-Schritt in retrieval-augmentierten Systemen so gut zu machen, dass der Generierungsschritt überhaupt etwas hat, womit er arbeiten kann.
Lange bevor RAG als Begriff existierte, baute Yih das Retrieval-Substrat, von dem es abhängt. Dense Passage Retrieval (2020) ist die Arbeit, die dichte Vektorsuche für Open-Domain-QA gegenüber traditionellen invertierten Indexverfahren konkurrenzfähig machte — praktisch jedes moderne RAG-System stammt von diesem Ergebnis ab, auch diejenigen, die es nicht ausdrücklich nennen. Yih zu lesen ist der klarste Weg zu verstehen, warum der Retrieval-Teil in retrieval-augmentierter Generierung meist der Ort ist, an dem Systeme still scheitern, und warum FActScore, dessen Mitautor er ist, atomare Fakten gegen eine externe Wissensquelle bewertet, statt sie am parametrischen Gedächtnis des Modells zu messen.