Yann LeCun
Ce à quoi les systèmes d'apprentissage automatique devraient ressembler, par contraste avec ce qu'ils sont actuellement.
LeCun partage le Turing Award 2018 pour les travaux qui ont rendu le deep learning praticable à grande échelle. La position qu'il a publiquement défendue ces dernières années — selon laquelle la prédiction autorégressive du prochain token est une impasse comme voie vers quoi que ce soit qui ressemble à un raisonnement général — est l'une des rares dissidences de haut niveau face au consensus actuel sur les LLM qui soit argumentée avec un détail technique architectural. Le lire est utile même lorsque l'on soupçonne qu'il a tort, parce que le désaccord est spécifique : modèles du monde, architectures prédictives à plongement conjoint, apprentissage fondé sur l'énergie, le tout mis en regard des raisons pour lesquelles il pense que la génération actuelle de LLM ne peut pas y parvenir à partir de son point de départ actuel.