Hannaneh Hajishirzi
Cuándo un modelo de lenguaje debería recurrir a una fuente externa de conocimiento, y cuándo basta su propia memoria paramétrica.
"When Not to Trust Language Models" (2023, con colaboradores de UW y AI2) es la formulación más limpia de una pregunta sobre la que el campo había estado dando rodeos: el conocimiento interno de un modelo de lenguaje es desigual por tema y por frecuencia, y una evaluación honesta tiene que distinguir los hechos que el modelo realmente sabe de los hechos sobre los que solo suena seguro. El trabajo más amplio de Hajishirzi —al liderar en AI2 la línea de modelos abiertos que produjo OLMo y la familia de posentrenamiento Tulu— extiende la misma lógica a la construcción de los propios modelos: si se quiere estudiar por qué los modelos alucinan, hay que estudiar modelos que se puedan abrir, no solo los servidos detrás de una API cerrada.