Mann a codirigé BloombergGPT (2023), l'un des premiers grands modèles de langage verticaux majeurs — un modèle de 50 milliards de paramètres entraîné principalement sur le corpus de documents financiers de Bloomberg, conçu pour surpasser les LLM généralistes sur les tâches de NLP financier. La section d'évaluation de l'article est méthodologiquement intéressante en soi : comparaison côte à côte avec des LLM généralistes à la fois sur des tâches propres à la finance (où BloombergGPT était censé gagner) et sur des benchmarks généraux (où il devait rester compétitif). Pour ai100, la littérature sur l'évaluation des LLM verticaux importe parce qu'elle répond à une question que nous finirons par rencontrer : comment évaluer équitablement un modèle spécialiste d'un domaine face à un généraliste sur des requêtes qui couvrent les deux types de compétence.

À lire lorsque
vous avez besoin d'une méthodologie pour évaluer des LLM spécialistes d'un domaine face à des LLM généralistes, ou voulez la littérature sur ce que l'entraînement vertical des LLM apporte réellement.
Thèmes
développement de LLM de domaine vertical (BloombergGPT); évaluation du NLP financier; défi méthodologique de la comparaison entre modèles spécialistes et généralistes sur des tâches qui se recouvrent.
Travaux clés
BloombergGPT: A Large Language Model for Finance (2023, co-auteur); longue œuvre de recherche ML chez Google et Bloomberg; publications en cours sur le NLP financier à grande échelle.