Xipeng Qiu

Qius Gruppe an der Fudan University veröffentlichte MOSS, eines der frühen offenen chinesischsprachigen LLMs, das mit ausreichend Dokumentation und Trainingswerkzeugen kam, damit unabhängige Gruppen es reproduzieren und verändern konnten. Dasselbe Labor verantwortet FastNLP — eines der auf chinesischer Seite breiter genutzten NLP-Frameworks für Sequenzmodellierung — und eine Forschungslinie zum Retrieval von Demonstrationen für in-context learning, die an heutige Bewertungsmethodik anschließt. Für ai100, das KI-Engines einschließlich chinesischsprachigen Verhaltens auditiert, gehört MOSS zu dem Teil der Literatur, der dokumentiert, wie ein offenes chinesischsprachiges LLM von innen tatsächlich aussieht, und Qius Gruppe ist der lesbarste Einstiegspunkt.

Lesenswert, wenn

man die offene chinesischsprachige LLM-Landschaft aus ihrem akademischen Ursprung heraus verstehen muss, statt aus englischsprachiger Berichterstattung darüber.

Themen

offene chinesischsprachige LLMs (MOSS); das FudanNLP-/FastNLP-Ökosystem; Methodik für das Retrieval von Demonstrationen im in-context learning.

Zentrale Arbeiten

offenes chinesisches LLM MOSS (2023, Projektleiter); Werkkomplex zum FastNLP-/FudanNLP-Framework; Veröffentlichungen zu in-context learning und demonstration retrieval.