Kevin Chen-Chuan Chang
Die rasant wachsende Literatur zum logischen Schließen (Reasoning) von Sprachmodellen so zu ordnen, dass ein neu einsteigender Forscher sich darin tatsächlich orientieren kann.
Bis Mitte 2023 überstieg die Zahl der „LLMs können logisch schließen“-Arbeiten die Lesekapazität jeder einzelnen Person — Gedankenkette (Chain-of-Thought), Zerlegung, Planung, Selbstkonsistenz, in-context learning, jeweils mit mehreren Varianten und konkurrierenden Behauptungen. Changs Survey „Towards Reasoning in LLMs“ (2023, mit Jie Huang) gab dem Feld seine erste einigermaßen vollständige Karte des Terrains, indem er Techniken nach Mechanismus, Evaluationsparadigma und empirischen Befunden dazu ordnete, was über Aufgaben hinweg übertragbar ist und was nicht. Den Survey zu lesen ist der sauberste Weg, ein gemeinsames Vokabular mit der Literatur zu erwerben, ohne es aus hundert einzelnen Paper-Abstracts neu ableiten zu müssen.