Системы и масштабирование Основоположники Методологически смежные

Chelsea Finn

Как языковые и обучающиеся системы адаптируются к новой задаче по очень малому числу примеров — и что теоретическая структура этой адаптации говорит о том, чему они на самом деле научились или не научились.

MAML (Model-Agnostic Meta-Learning, 2017, где Finn была ведущим автором) формализовала вопрос meta-learning на архитектурном уровне: обучать модель не выполнять конкретную задачу, а быстро дообучаться (fine-tuning) под любую задачу из распределения, где она видела родственные примеры. Фреймворк на несколько лет предшествует эпохе in-context learning, но его теоретический словарь — распределения задач, шаги адаптации, ландшафт функции потерь при дообучении — это то, на что современные исследования in-context learning в LLM либо явно опираются, либо независимо переоткрывают. Для ai100 оптика meta-learning применима напрямую: когда AI-движок отвечает на зондирующий запрос, которого он раньше не видел, вопрос о том, «знает» ли он ответ или адаптируется на лету, методологически эквивалентен вопросам few-shot адаптации, которые формализовала работа Finn.

Стоит читать, когда: вам нужна теоретическая опора для того, как LLM справляются с запросами, под которые их специально не обучали, и нужна литература meta-learning, где соответствующие рамки были проработаны ещё до прихода LLM.
Темы: model-agnostic meta-learning (MAML); теоретическая структура few-shot адаптации; мост между meta-learning и in-context learning в LLM.
Ключевые работы: MAML: Model-Agnostic Meta-Learning (2017, ведущий автор); большой корпус работ по meta-learning и обучению роботов; публикации Stanford и Physical Intelligence по RL/роботике.