Mengnan Du
Welche Arten von Erklärungen für Outputs von Sprachmodellen gewonnen werden können — und welche dieser Erklärungen sich als verlässlich erweisen.
Die Literatur zur Erklärung einzelner LLM-Outputs wuchs schneller als die Methoden, diese Erklärungen gegen eine Ground Truth zu validieren. Dus „Explainability for Large Language Models: A Survey“ (2024, Seniorautor mit Mitwirkenden) sortiert diese Landschaft in Kategorien, die wichtig geworden sind — aufmerksamkeitsbasierte, gradientenbasierte, perturbationsbasierte und natürlichsprachliche Erklärungen, die das Modell über sich selbst erzeugt, jeweils mit dokumentierten Stärken und gut dokumentierten Fehlermodi. Der Survey ist besonders nützlich in dem Teil, den die meisten anderen Surveys auslassen: einer fallweisen Diskussion, wann eine Erklärungsmethode aktiv in die Irre führt, statt nur zu wenig zu informieren.