Адаптация модели: от промпта к fine-tuning

Модель получила доступ к данным компании через RAG. Но этого может быть недостаточно. Она может знать внутренние документы и всё равно отвечать не так, как нужно бизнесу: не соблюдать формат, использовать неправильную терминологию или нестабильно выполнять специализированную задачу.

Здесь начинается адаптация модели. Главный принцип: не начинайте с fine-tuning. Сначала используйте более дешёвые и обратимые способы изменить поведение.

1. Prompt Engineering: сначала меняем инструкцию

📌 Что это: управление поведением через инструкции, контекст и примеры (роль, правила, формат ответа).

✅ Зачем: быстро изменить поведение без изменения модели. Дёшево, быстро, обратимо.

⚠️ Ограничение: промпт не добавляет в модель новые факты. Если нужны знания компании — подключаем RAG.

2. RAG: даём модели нужные знания

Prompt отвечает на вопрос «как модель должна отвечать». RAG отвечает на вопрос «какую информацию модель должна использовать». Вместе они дают гораздо более полезную систему, чем попытка решить всё одним промптом.

3. Model Routing: не каждая задача требует одной и той же модели

В AI-продукте можно использовать routing — выбор модели в зависимости от задачи. Простой FAQ → небольшая модель, сложный анализ → мощная модель. Это позволяет балансировать: качество ↔ latency ↔ стоимость.

RAG vs Fine-tuning: в чём разница

📌 Что меняется: RAG меняет контекст запроса. Fine-tuning меняет поведение и параметры (веса) модели.

📌 Основная задача: RAG даёт информацию. Fine-tuning учит специфическому поведению.

📌 Новые данные: RAG обновляется без переобучения. Fine-tuning требует нового обучения.

📌 Источники ответа: RAG можно показать пользователю (цитаты). Fine-tuning не даёт автоматических ссылок на источники.

📌 Стоимость: RAG обычно ниже. Fine-tuning выше (нужны GPU, инженеры, время).

📌 Когда применять: RAG — для знаний, документов, актуальной информации. Fine-tuning — для поведения, формата, специализированных паттернов.

Это не взаимоисключающие технологии. Fine-tuning учит модель отвечать в формате банковского консультанта, а RAG передаёт ей актуальные тарифы. Fine-tuning = как отвечать, RAG = на основе каких данных.

Если всё-таки нужен fine-tuning

Тогда появляются методы parameter-efficient fine-tuning.

📌 SFT (Supervised Fine-Tuning). Модель обучается на примерах правильного поведения: вход → правильный ответ. Главное здесь не количество примеров, а их качество и соответствие реальной задаче.

📌 LoRA (Low-Rank Adaptation). Вместо изменения всех параметров модели добавляются небольшие обучаемые адаптеры. Основные веса модели остаются замороженными. Это снижает требования к памяти и вычислениям.

📌 PEFT (Parameter-Efficient Fine-Tuning). Это семейство подходов к эффективному дообучению, где LoRA является одним из наиболее известных методов.

💻 Сколько это стоит. Порядок затрат сильно различается. LoRA можно запустить на одном GPU за несколько часов при наличии подготовленных данных. SFT требует больше ресурсов, но всё равно дешевле full fine-tuning. Главное — начать с простых методов и двигаться к сложным только при реальной необходимости.

Итог

Иерархия адаптации: prompt → RAG → LoRA/PEFT → SFT. Каждый следующий уровень дороже и сложнее, но даёт более устойчивые изменения. Начинайте с простого.

---

Источники:

• [Hugging Face Blog](https://huggingface.co/blog)

• [The Batch — Andrew Ng](https://www.deeplearning.ai/the-batch/)

• [Artificial Analysis](https://artificialanalysis.ai/)

• [Latent Space](https://www.latentspace.so/)

• [REAL DIGITAL](https://t.me/digitalreal)