Семантический поиск может вернуть тематически похожие позитивные инструкции, не распознав отрицание как отдельное требование. Из рекомендации делать X не всегда логически следует запрет любого другого действия.
Как обычный семантический поиск поведёт себя в базе знаний поддержки, если все документы содержат позитивные рекомендации, а пользователь спрашивает, чего точно не стоит делать?
Семантический поиск может вернуть тематически похожие позитивные инструкции, не распознав отрицание как отдельное требование. Из рекомендации делать X не всегда логически следует запрет любого другого действия.
Короткий ответ
Что ответить на собеседовании
Подробный разбор
Ответ с пояснениями
Семантический поиск может вернуть тематически похожие позитивные инструкции, не распознав отрицание как отдельное требование. Из рекомендации делать X не всегда логически следует запрет любого другого действия.
Добавьте документы с ограничениями и рисками, перепишите запрос для поиска предостережений, используйте hybrid retrieval и reranking с учётом намерения. При генерации требуйте подтверждения запретов источниками. Если база не содержит ответа «чего не делать», система должна сказать об ограничении, а не превращать все позитивные советы в категорические запреты.