TERM / HALLUCINATION
Галлюцинация моделиHallucination
КРАТКО
Правдоподобный, но неверный или неподтверждённый вывод, который модель выдаёт как ответ.
Смысл термина
Галлюцинация может быть выдуманным фактом, ссылкой, числом, именем или логическим выводом без достаточной опоры.
Уверенный стиль ответа не является признаком достоверности.
Как это выглядит на практике
PRACTICALЕсли ответ содержит свежие даты, цифры, цитаты или конкретные источники, их стоит проверять независимо.
Близкие, но разные понятия
UNCERTAINTY ≠ HALLUCINATIONмодель может честно обозначить неопределённость — это не галлюцинация
ERROR ≠ HALLUCINATIONне каждая ошибка является выдуманным фактом