El grupo de Qiu en Fudan lanzó MOSS, uno de los primeros LLM abiertos en chino que llegó con documentación y herramientas de entrenamiento suficientes para que grupos independientes lo reprodujeran y modificaran. El mismo laboratorio es responsable de FastNLP —uno de los frameworks de NLP más usados del lado chino para modelado de secuencias— y de una línea de investigación sobre recuperación de demostraciones para in-context learning que conecta con la metodología de evaluación actual. Para ai100, que audita motores de IA incluyendo comportamiento en chino, MOSS se ubica en la parte de la literatura que documenta cómo se ve por dentro un LLM chino abierto, y el grupo de Qiu es la puerta de entrada más legible.

Vale la pena seguirlo cuando
se necesita entender el panorama de LLM abiertos en chino desde dentro de su origen académico, no desde la cobertura en inglés sobre él.
Temas
LLM abiertos en chino (MOSS); el ecosistema FudanNLP / FastNLP; metodología de recuperación de demostraciones para in-context learning.
Obras clave
LLM chino abierto MOSS (2023, líder del proyecto); cuerpo de trabajo del framework FastNLP / FudanNLP; publicaciones sobre in-context learning y recuperación de demostraciones.