Yue Zhang

До 2023 года «галлюцинация LLM» была одной общей корзиной: неверный факт, выдуманная ссылка, сбившаяся цепочка рассуждений — всё называли одним словом. Обзор Zhang "Siren's Song in the AI Ocean" разделил эти категории с дисциплиной таксономиста: галлюцинации фактологичности, когда модель противоречит миру; галлюцинации верности источнику, когда модель противоречит собственному контексту; и несколько более тонких подкатегорий, которые с тех пор стали стандартным словарём литературы. Читать его — самый быстрый способ перестать говорить «галлюцинация» так, будто это один феномен.

Стоит читать, когда

вам нужно говорить о галлюцинациях LLM технически точно, а не использовать это слово как одно слово-заглушку.

Темы

таксономия галлюцинаций LLM; верность источнику против фактологичности; методология обзорных работ в NLP.

Ключевые работы

"Siren's Song in the AI Ocean: A Survey on Hallucination in LLMs" (2023); продолжающаяся работа Westlake NLP group по structured prediction и оценке LLM.