Yann LeCun
Wie Systeme des maschinellen Lernens aussehen sollten — im Gegensatz zu dem, was sie derzeit sind.
LeCun teilt den Turing Award 2018 für die Arbeit, die Deep Learning im großen Maßstab praktikabel machte. Die Position, die er seit mehreren Jahren öffentlich vertritt — dass autoregressive Next-Token-Vorhersage als Weg zu etwas, das allgemeinem logischen Schließen (Reasoning) ähnelt, eine Sackgasse ist —, ist eine der wenigen hochrangigen Gegenstimmen zum aktuellen LLM-Konsens, die in technischem architektonischem Detail argumentiert werden. Ihn zu lesen ist nützlich, selbst wenn man vermutet, dass er falschliegt, weil die Uneinigkeit spezifisch ist: Weltmodelle, Joint-Embedding Predictive Architectures, Energy-Based Learning, alles gerichtet gegen die Frage, warum die aktuelle Generation von LLMs aus seiner Sicht von hier aus nicht dorthin gelangen kann.