Prompting mit Gedankenkette (Chain-of-Thought) (2022) zeigte, dass ein Sprachmodell bessere Antworten erzeugt, wenn es seine Zwischenschritte des logischen Schließens (Reasoning) laut ausschreiben darf, und Tree-of-Thoughts (2023) erweiterte das zu einer verzweigenden Suche. Graph of Thoughts, das Hoeflers ETH-Gruppe 2024 vorstellte, geht den nächsten Schritt — es lässt das Modell logisches Schließen (Reasoning) als gerichteten Graphen behandeln, in dem Zwischenzustände zusammengeführt, bewertet und für Backtracking wieder aufgegriffen werden können. Das Framework kommt mit genau jenem Systemtechnik-Instinkt, den man von jemandem erwartet, dessen anderer Hauptberuf darin besteht, ML auf einem nationalen Supercomputer zu architektieren: die Rechenkosten jeder Erweiterung des logischen Schließens zu verfolgen, nicht nur ihren Genauigkeitsgewinn.

Lesenswert, wenn
man logisches Schließen (Reasoning) von LLMs als strukturiertes Suchproblem denken will, bei dem die für logisches Schließen (Reasoning) aufgewendete Rechenleistung ein Budget ist, das man zuweisen muss, keine kostenlose Ressource.
Themen
strukturiertes logisches Schließen (Reasoning) über LLM-Zwischenzustände hinweg (Chain → Tree → Graph of Thoughts); rechenkostenbewusstes Design von prompts für logisches Schließen (Reasoning); ML-Systemtechnik im HPC-Maßstab.
Zentrale Arbeiten
Graph of Thoughts (2024, Seniorautor); breitere Arbeit zu ML-Systemen und Skalierung an ETH Zürich und CSCS; HPC-seitige Beiträge zur Infrastruktur für großskaliges Modelltraining.