Sentence-BERT (2019, где ведущим автором был Nils Reimers из её UKP Lab) сделал плотное кодирование предложений пригодным для продакшена: трансформер дообучался (fine-tuning) так, чтобы два предложения с близким смыслом давали близкие векторы, а результат был упакован так, чтобы любой разработчик мог использовать его без переобучения. Последствие оказалось инфраструктурным: библиотека sentence-transformers, посеянная её группой, стала базовым слоем для большинства современных систем семантического поиска, включая поисковые слои RAG-конвейеров, которые важны для ai100. Её более широкая программа в UKP идёт по той же линии: практичные, переиспользуемые NLP-компоненты, часто сразу с явной методологией оценки.

Стоит читать, когда
вы хотите понять инфраструктуру энкодеров предложений, от которой зависит большинство современных систем генерации с поиском, и методологию, благодаря которой она работает.
Темы
эмбеддинги предложений и плотный поиск (Sentence-BERT, sentence-transformers); майнинг аргументации и приложения вычислительной социальной науки; переиспользуемые NLP-компоненты с привязанной к ним методологией оценки.
Ключевые работы
Sentence-BERT (2019, старший автор с Reimers); экосистема библиотеки sentence-transformers (с 2020 года); корпус работ UKP Lab по майнингу аргументации и прикладному NLP.