Colin Raffel
Déterminer si un seul modèle de langage peut accomplir toutes les tâches NLP à la fois quand elles sont toutes formulées comme du texte en entrée et du texte en sortie — et si cette unification tient d'une langue à l'autre.
T5 (Text-to-Text Transfer Transformer, 2020, auteur principal) a posé un argument méthodologique que le domaine avait encore du mal à accepter : toute tâche NLP peut être formulée comme le même type de problème — donner une chaîne au modèle, demander une chaîne — et un seul modèle entraîné dans ce cadrage peut les traiter toutes. L'article de suivi T0 (2021) a étendu l'argument à la généralisation multilingue zero-shot, en montrant que la même approche passe à l'échelle entre langues avec seulement une perte de performance modérée. Cette ligne combinée est le précurseur méthodologique de presque tous les LLM multilingues entraînés par instructions déployés depuis, y compris ceux qu'ai100 évalue aujourd'hui.