Sun dirige le laboratoire THUNLP à Tsinghua, l'ancrage académique du projet OpenBMB — un parallèle chinois à l'effort OLMo d'AI2, qui publie de grands modèles ouverts (CPM et autres) ainsi que l'infrastructure d'entraînement (BMTrain) nécessaire pour les reproduire. Ses travaux plus larges sur le réglage fin (fine-tuning) efficace en paramètres procèdent du même réflexe : prendre des techniques coûteuses développées à grande échelle par des laboratoires fermés, trouver la version à petit volume de données qui fonctionne avec les moyens de calcul académiques, et publier le résultat en open source. Pour ai100, qui audite des moteurs d'IA dans plusieurs régions linguistiques, lire Sun est la manière de voir à quoi ressemble l'alternative des modèles ouverts lorsqu'elle naît de racines institutionnelles chinoises plutôt qu'occidentales.

À lire lorsque
vous voulez comprendre l'écosystème chinois des LLM ouverts et les méthodes efficaces en paramètres qui ont rendu possible la recherche LLM à l'échelle académique.
Thèmes
plateformes de grands modèles ouverts venues de Chine (OpenBMB, famille CPM); méthodologie de réglage fin (fine-tuning) efficace en paramètres; corpus de travaux THUNLP sur le NLP en langue chinoise.
Travaux clés
corpus de travaux du projet OpenBMB (à partir de 2022, contributeur clé); publications sur le réglage fin (fine-tuning) efficace en paramètres; publications fondatrices de THUNLP sur le NLP chinois.