Для актуальных пользовательских фактов обычно добавляют данные в контекст через retrieval/RAG. Fine-tuning меняет поведение модели, но не является надёжной заменой обновляемой базе фактов.
Как повлиять на саму модель, чтобы она использовала наши пользовательские данные, а не предобученные знания?
Для актуальных пользовательских фактов обычно добавляют данные в контекст через retrieval/RAG. Fine-tuning меняет поведение модели, но не является надёжной заменой обновляемой базе фактов.
Короткий ответ
Что ответить на собеседовании
Подробный разбор
Ответ с пояснениями
Для актуальных пользовательских фактов обычно добавляют данные в контекст через retrieval/RAG. Fine-tuning меняет поведение модели, но не является надёжной заменой обновляемой базе фактов.
Нужно явно указать, что ответ опирается на предоставленные источники, и разрешить ответ «недостаточно данных». Проверяйте доступ к документам и ссылки на доказательства. Полностью выключить предобученные знания одним промптом нельзя. Если требуется строгая достоверность, используйте структурированные запросы к источнику и проверку результата, а не только текстовую инструкцию.