Jimmy Lin
Information Retrieval so reproduzierbar zu machen, dass ein LLM-Forscher und ein IR-Forscher dasselbe Experiment ausführen und dieselbe Antwort erhalten können.
Lins Toolkits Anserini und Pyserini wurden mit ihrem Erscheinen zur Standard-Reproduzierbarkeitsschicht der Retrieval-Forschung — wenn ein NLP-Paper heute eine BM25-Baseline-Zahl berichtet, stammt diese Zahl meist aus seinem Code. Dieselbe Haltung trägt sich in HyDE (Hypothetical Document Embeddings, 2023, Seniorautor): Die Idee war, mit einem Sprachmodell ein synthetisches Antwortdokument zu erzeugen, es einzubetten und gegen dieses Embedding zu suchen — eine Methode, die sauber genug ist, dass andere Gruppen sie replizieren konnten, ohne über Implementierungsdetails verhandeln zu müssen. Lin zu lesen ist der Weg zu verstehen, welche Retrieval-Ergebnisse in aktuellen LLM-Papern tatsächlich etwas bedeuten und welche von undokumentierten Baselines abhängen.