English Español Français Deutsch
← Volver a la lista
Evaluación multilingüe Figuras fundacionales Directamente en la base de la metodología de ai100

Colin Raffel

Si un único modelo de lenguaje puede hacer todas las tareas de NLP a la vez cuando todas se formulan como text-in-text-out — y si esa unificación se mantiene entre lenguas.

T5 (Text-to-Text Transfer Transformer, 2020, autor principal) formuló un argumento metodológico al que el campo se resistía: toda tarea de NLP puede encuadrarse como el mismo tipo de problema —dar al modelo una cadena y pedirle una cadena—, y un único modelo entrenado en ese encuadre las maneja todas. El artículo de continuación T0 (2021) extendió el argumento a la generalización multilingüe zero-shot, mostrando que el mismo enfoque escala entre lenguas con solo una pérdida modesta de rendimiento. La línea combinada es el precursor metodológico de casi todos los LLM multilingües ajustados por instrucciones desplegados desde entonces, incluidos los que ai100 evalúa actualmente.

Vale la pena seguirlo cuando
se quieren entender las decisiones arquitectónicas y de datos de entrenamiento que hicieron posible la generalización multilingüe zero-shot — y lo que esas decisiones implican para la metodología de evaluación.
Temas
encuadre unificado text-to-text de tareas de NLP (T5); generalización multilingüe zero-shot (T0); el linaje desde modelos de investigación hasta LLM multilingües desplegados.
Obras clave
T5: Text-to-Text Transfer Transformer (2020, autor principal); generalización multilingüe multitarea con prompts de T0 (2021, coautor); publicaciones en curso sobre memorización de modelos y atribución de conjuntos de datos.