Рассуждение и декомпозиция Методологи Напрямую в основе методологии ai100

Kevin Chen-Chuan Chang

Организует быстро растущую литературу о рассуждении языковых моделей в форму, в которой исследователь, новый для области, действительно может ориентироваться.

К середине 2023 года число статей о том, что «LLM умеют рассуждать», превысило способность любого отдельного читателя за ними уследить: цепочка рассуждений, декомпозиция, планирование, самосогласованность, in-context learning — у каждого направления множество вариантов и конкурирующих утверждений. Обзор Chang "Towards Reasoning in LLMs" (2023, с Jie Huang) дал области первую достаточно полную карту территории, организовав техники по механизму, парадигме оценки и эмпирическим выводам о том, что переносится между задачами, а что нет. Читать этот обзор — самый чистый способ приобрести общий словарь с литературой, не выводя его заново из сотни аннотаций отдельных статей.

Стоит читать, когда: вам нужно быстро войти в исследования рассуждения LLM, и вы хотите структурированную карту, прошедшую рецензирование, а не кураторский reading list.
Темы: методология обзоров для быстро движущихся подполей; таксономия техник рассуждения LLM; структура литературы о рассуждении LLM.
Ключевые работы: "Towards Reasoning in Large Language Models: A Survey" (2023, с Huang); большая линия работ по data mining, deep-web search и NLP+IR из UIUC.