L'ensemble des travaux de Manning — GloVe, le cursus fondateur de Stanford en NLP, une génération de ses doctorants qui ont essaimé dans les laboratoires industriels — lui donne un point de vue depuis lequel la plupart des discours actuels sur les LLM ressemblent à une erreur de catégorie. Ses écrits récents les plus tranchants soutiennent que, lorsqu'un modèle semble « comprendre » quelque chose, nous voyons une régularité statistique du langage humain confondue avec la structure conceptuelle que ces motifs transportent. Cette position est rare chez quelqu'un de son rang et compte tenu de ses incitations institutionnelles, ce qui explique en partie pourquoi elle mérite d'être prise au sérieux.

À lire lorsque
vous voulez lire l'écart entre « le modèle a produit les bons mots » et « le modèle savait ce que ces mots voulaient dire », écrit par quelqu'un d'assez ancien dans le domaine pour savoir ce qui s'est perdu dans le rebranding de NLP en IA.
Thèmes
ce que la sémantique distributionnelle peut et ne peut pas affirmer sur le sens; critiques structurelles des pratiques actuelles d'évaluation des LLM; le long arc des technologies du langage avant les LLM.
Travaux clés
vecteurs de mots GloVe (2014, co-auteur principal avec Pennington et Socher); "Foundations of Statistical Natural Language Processing" (1999, avec Schütze); long ensemble de critiques publiques des pratiques actuelles d'évaluation des LLM.