Что такое галлюцинации у LLM и как с ними бороться?

Галлюцинации LLM — правдоподобные, но неподтверждённые или ошибочные утверждения. Снижать их нужно качественными источниками, проверками и правом системы явно сообщить о недостатке данных.

Для фактических вопросов полезен поиск релевантного контекста с проверяемыми ссылками, но RAG не гарантирует, что модель верно использует найденное. Структурированный формат также не делает содержание истинным.

Оценивайте ответы на эталонных примерах, проверяйте числа и внешние действия отдельным кодом, выделяйте неопределённость и подключайте человека в критических случаях. Снижение температуры уменьшает вариативность, но не устраняет ошибки знаний. Не просите модель придумывать отсутствующие факты ради заполненного ответа.