Yoav Shoham
Was sich über den Zustand der KI von außerhalb eines einzelnen Unternehmens messen lässt — und wie Retrieval-Augmentation aussieht, wenn man nichts neu trainieren muss.
Shohams Karriere spannt mehrere KI-Epochen auf — Multi-Agenten-Systeme und Spieltheorie in dem Lehrbuch, das er mitverfasste, danach eine lange Phase als Vorsitzender des Stanford AI Index, einer jährlichen Vermessung des Feldes, die für die Branche inzwischen fast die Rolle einer offiziellen Bestandsaufnahme spielt. Das Paper „In-Context Retrieval-Augmented Language Models“ (2023, Seniorautor) liegt im AI21-Stack, liest sich aber als Methodenpaper: Retrieval-Augmentation funktioniert auf eingefrorenen LLMs mit Standard-Retrievern, ohne gemeinsames Training — genau in dem Regime, das gilt, wenn man das Modell, das man verbessern will, nicht öffnen kann. Die beiden Linien — Vermessung des Feldes und Methoden, die im Closed-Model-Regime funktionieren — treffen sich an einer Position, die ai100 teilt: Wer branchenweite Einsicht beansprucht, muss offenlegen, was messbar ist und was nicht.