"When Not to Trust Language Models" (2023, con colaboradores de UW y AI2) es la formulación más limpia de una pregunta sobre la que el campo había estado dando rodeos: el conocimiento interno de un modelo de lenguaje es desigual por tema y por frecuencia, y una evaluación honesta tiene que distinguir los hechos que el modelo realmente sabe de los hechos sobre los que solo suena seguro. El trabajo más amplio de Hajishirzi —al liderar en AI2 la línea de modelos abiertos que produjo OLMo y la familia de posentrenamiento Tulu— extiende la misma lógica a la construcción de los propios modelos: si se quiere estudiar por qué los modelos alucinan, hay que estudiar modelos que se puedan abrir, no solo los servidos detrás de una API cerrada.

Vale la pena seguirlo cuando
se quiere metodología de evaluación de factualidad que funcione sobre modelos de pesos abiertos que se puedan desmontar, no solo sobre lo que devuelva hoy la API cerrada más reciente.
Temas
conocimiento paramétrico frente a conocimiento recuperado en LLM; puntuación de factualidad por hechos atómicos; la pila de evaluación de modelos abiertos (OLMo, Tulu).
Obras clave
"When Not to Trust Language Models" (2023, coautora); modelo de lenguaje abierto OLMo (2024, coautora); Tulu post-training framework (2023, coautora).