Yarin Gal

Gal elaboró los fundamentos de la incertidumbre bayesiana en redes neuronales profundas cuando esa literatura aún era pequeña, y en los últimos años ha apuntado el mismo instrumento a los LLM. Su artículo de 2024 en Nature sobre detección de alucinaciones mediante entropía semántica vuelve concreto el hilo conductor: una respuesta fluida y una verdadera no son la misma cosa, y la distancia entre ambas puede medirse desde fuera en lugar de pedirle al modelo que informe sobre sí mismo. El método no requiere verdad de referencia etiquetada ni acceso al interior del modelo, que es el único tipo de método que realmente se aplica a un LLM comercial cerrado.

Vale la pena seguirlo cuando

se necesita tomar una salida de un modelo de lenguaje y preguntar "¿debería confiarse en esto?", y se quiere una respuesta que no dependa de que el modelo esté de acuerdo.

Temas

incertidumbre semántica en LLM; detección de alucinaciones sin verdad de referencia etiquetada; cómo los institutos de seguridad de IA traducen la investigación sobre incertidumbre en supervisión.

Obras clave

"Dropout as a Bayesian approximation" (2016); "Detecting hallucinations in LLMs using semantic entropy" (Nature, 2024); producción en curso del grupo Oxford OATML.