В чём разница между fine-tuning и few-shot prompting? Что и когда выбирать?

Base model — это базовая языковая модель, обученная на большом объёме текстовых данных без специфических инструкций. Она генерирует текст, основываясь на вероятностях слов и контекста, но не всегда точно следует заданным инструкциям.

Instruct модель — это base model, дообученная на данных с инструкциями и ответами, чтобы лучше понимать и выполнять запросы пользователя. Она ориентирована на выполнение конкретных задач и следование инструкциям.

Chat модель — это разновидность instruct модели, оптимизированная для ведения диалога. Она умеет поддерживать контекст беседы, отвечать на вопросы, задавать уточняющие вопросы и вести более естественное общение.

Итого:

• Base model — общий генератор текста.
• Instruct model — лучше понимает и выполняет инструкции.
• Chat model — оптимизирована для диалогового взаимодействия с пользователем.