Yue Zhang

Vor 2023 war „LLM-Halluzination“ ein einziger Sammelbehälter — eine falsche Tatsache, eine erfundene Quellenangabe, eine verworrene Kette logischen Schließens (Reasoning): alles bekam dasselbe Wort. Zhangs Survey „Siren's Song in the AI Ocean“ trennte die Kategorien mit der Disziplin eines Taxonomen: Faktentreue-Halluzinationen (das Modell widerspricht der Welt), Quellentreue-Halluzinationen (das Modell widerspricht seinem eigenen Kontext) und mehrere feinere Unterkategorien, die seitdem zum Standardvokabular der Literatur geworden sind. Ihn zu lesen ist der schnellste Weg, nicht mehr „Halluzination“ zu sagen, als wäre sie ein einziges Phänomen.

Lesenswert, wenn

man über LLM-Halluzination mit technischer Präzision sprechen muss, statt den Begriff als pauschalen Ausweichbegriff zu verwenden.

Themen

Taxonomie von LLM-Halluzinationen; Quellentreue versus Faktentreue; Survey-Methodik in NLP.

Zentrale Arbeiten

„Siren's Song in the AI Ocean: A Survey on Hallucination in LLMs“ (2023); laufende Arbeiten der Westlake NLP-Gruppe zu strukturierter Vorhersage und LLM-Evaluation.