Shayne Longpre
Ce qu'il y a réellement dans les données sur lesquelles les modèles de langage s'entraînent — et qui peut, ou ne peut pas, le savoir.
Longpre coordonne la Data Provenance Initiative, un audit collectif des licences, de la provenance et du statut juridique des jeux de données derrière les LLM modernes. Le projet répond à une question qui s'avère beaucoup plus difficile qu'il n'y paraît : lorsqu'un modèle produit une phrase, quelle est la chaîne de preuves indiquant que les briques constitutives de cette phrase se trouvaient même dans son jeu d'entraînement ? Ses premiers travaux sur le jeu de données FLAN ont contribué à lancer l'ère du réglage par instructions; son axe actuel est plus proche de la ligne de transparence d'ai100 — savoir ce qui est en amont d'une réponse, pas seulement à quoi la réponse ressemble.