Juanzi Li

KEG Lab Li в Tsinghua был методологическим домом одной из самых длинных линий исследований по языковым моделям, дополненным графами знаний: OpenKE для эмбеддингов графов знаний, KEPLER для объединения графов знаний и языкового предобучения, а также исследовательская нить, которая через Zhipu привела к открытой LLM-линейке ChatGLM. Сквозная идея здесь — приверженность языковым моделям, у которых есть внешний структурированный якорь знания наряду с параметрической памятью; такие системы легче аудитировать: можно спросить модель, отдельно спросить граф знаний, а затем сравнить. Для ai100, который аудитирует поведение моделей при упоминании брендов, традиция оценки систем с дополнением графами знаний — ближайший прецедент для отделения «что говорит модель» от «что подтверждают её источники».

Стоит читать, когда

вам нужна методология оценки LLM, которая всерьёз относится к внешним структурированным якорям знания — и в дизайне моделей, и в протоколе аудита.

Темы

языковые модели с графами знаний (KEPLER, OpenKE); линия от исследований KG к открытым китайским LLM (ChatGLM); аудитируемость через внешние якоря знания.

Ключевые работы

библиотека OpenKE для эмбеддингов графов знаний (с 2018 года, ключевой участник); KEPLER: A Unified Model for Knowledge Embedding and Pre-trained Language Representation (2021, соавтор); открытая LLM-линейка ChatGLM через Zhipu (с 2023 года, сооснователь).