El paper de Strubell de 2019 "Energy and Policy Considerations for Deep Learning in NLP" puso números a algo que el campo venía ignorando en silencio: entrenar un solo gran modelo de lenguaje podía producir emisiones de CO2 comparables a las de varios coches a lo largo de su vida útil, y la brecha entre los informes de exactitud en papers de investigación y el coste de carbono de producirlos se ampliaba con cada nuevo estado del arte. El trabajo reformuló la eficiencia: dejó de ser una preocupación de ingeniería deseable pero secundaria y pasó a ser una dimensión de evaluación que debería aparecer junto a la exactitud en cada comparación de modelos. Para ai100, que evalúa modelos que varían en órdenes de magnitud en coste de inferencia, este es el respaldo metodológico para tratar «buena respuesta» y «buena respuesta a qué coste» como preguntas distintas.

Vale la pena seguirlo cuando
se quiere reportar o auditar un resultado de LLM con el coste computacional y energético tratado como magnitudes de primer orden.
Temas
coste energético y computacional del entrenamiento y servicio de modelos de lenguaje; NLP equitativo y acceso al cómputo como problemas de investigación; diseño eficiente de modelos como metodología por derecho propio.
Obras clave
"Energy and Policy Considerations for Deep Learning in NLP" (2019, autora principal); artículo de posición "Green AI" (2019, coautora); trabajo en curso de CMU sobre NLP eficiente y equitativo.