Yoav Goldberg

Goldberg schrieb eines der Standardlehrbücher für NLP in der neuronalen Ära (2017) und hat seitdem eine Frage verfolgt, die schwieriger wird, je leistungsfähiger Modelle werden: Ist die Erklärung, die ein LLM für seine Antwort gibt, die tatsächliche Ursache dieser Antwort — oder eine plausibel klingende, nachträglich erzeugte Deckgeschichte? Seine Arbeit zur Quellentreue generierter Erklärungen ist eine stetige Erinnerung daran, dass „das Modell sagte, warum es X tat“ und „wir wissen, warum das Modell X tat“ unterschiedliche Behauptungen sind, die in der meisten aktuellen Bewertungsmethodik miteinander vermischt werden.

Lesenswert, wenn

man jemanden will, der LLM-generierte Erklärungen mit derselben Skepsis behandelt wie die Antworten selbst.

Themen

Quellentreue generierter Erklärungen und Gedankenketten (Chain-of-Thought); die Grenzen der Post-hoc-Interpretierbarkeit von Modellen; NLP als Feld — seine Geschichte und seine aktuellen Verwirrungen.

Zentrale Arbeiten

Neural Network Methods for NLP (2017); laufende Publikationen zu Quellentreue in NLG; öffentliche NLP-Kommentierung als längerer Werkkomplex.