Finns MAML (Model-Agnostic Meta-Learning, 2017, Hauptautorin) formalisierte die Frage des Meta-Learnings auf architektonischer Ebene: ein Modell nicht darauf zu trainieren, eine bestimmte Aufgabe zu lösen, sondern darauf, schnell auf jede Aufgabe aus einer Verteilung feinabstimmbar zu sein, aus der es verwandte Beispiele gesehen hat. Das Framework entstand mehrere Jahre vor der Ära des in-context learning, aber sein theoretisches Vokabular — Aufgabenverteilungen, Anpassungsschritte, die Loss-Landschaft der Feinabstimmung (Fine-Tuning) — ist das, worauf moderne Forschung zu LLM-in-context learning entweder ausdrücklich aufbaut oder was sie unabhängig wiederentdeckt. Für ai100 gilt die Meta-Learning-Perspektive direkt: Wenn eine AI-Engine eine Probe-Anfrage beantwortet, die sie nie zuvor gesehen hat, ist die Frage, ob sie die Antwort „weiß“ oder sich on the fly anpasst, methodisch äquivalent zu den few-shot-Anpassungsfragen, die Finns Arbeit formalisiert hat.

Lesenswert, wenn
man theoretische Fundierung dafür sucht, wie LLMs mit Anfragen umgehen, auf die sie nicht spezifisch trainiert wurden, und die Meta-Learning-Literatur lesen will, die die relevanten Frameworks schon vor den LLMs ausgearbeitet hat.
Themen
Model-Agnostic Meta-Learning (MAML); die theoretische Struktur der few-shot-Anpassung; die Brücke zwischen Meta-Learning und in-context learning bei LLMs.
Zentrale Arbeiten
MAML: Model-Agnostic Meta-Learning (2017, Hauptautorin); langer Werkkomplex zu Meta-Learning und Robot Learning; Publikationen von Stanford und Physical Intelligence zu RL/Robotik.