Gal разработал основы байесовской неопределённости в глубоких нейронных сетях ещё тогда, когда это была небольшая литература, а последние несколько лет наводит тот же инструмент на LLM. Его статья 2024 года в Nature о детекции галлюцинаций через семантическую энтропию делает эту линию конкретной: гладкий ответ и истинный ответ — разные вещи, и зазор между ними можно измерять снаружи, а не просить модель саму о себе отчитаться. Метод не требует размеченного эталона или доступа к внутренностям модели, то есть относится к тому редкому типу методов, которые действительно применимы к закрытой коммерческой LLM.

Стоит читать, когда
вам нужно взять выход языковой модели и спросить: «стоит ли этому доверять?» — причём получить ответ, который не зависит от согласия самой модели.
Темы
семантическая неопределённость в LLM; детекция галлюцинаций без размеченного эталона; как институты безопасности AI превращают исследования неопределённости в надзор.
Ключевые работы
"Dropout as a Bayesian approximation" (2016); "Detecting hallucinations in LLMs using semantic entropy" (Nature, 2024); продолжающаяся работа группы Oxford OATML.