RAG или дообучение: выбор компанииКак подключить модель к своим данным и не переплатить

Компании хотят, чтобы ИИ отвечал по их документам, регламентам и базе знаний. Редакция разбирает два основных пути, их стоимость и ошибки, которые повторяются от проекта к проекту.

ИИ в бизнесеОбновлено 12.11.20268 мин чтения
RAG или дообучение: выбор компании
▲ коротко: RAG или дообучение: выбор компании✓ RAG подмешивает в запрос найденные документы, дообучение меняет поведение самой модели.✓ Для фактов, которые часто меняются, разумный первый выбор почти всегда RAG.✓ Дообучение оправдано для формата, стиля и узких навыков, а не для загрузки знаний.✓ Большинство провалов связано с качеством поиска и данных, а не с выбором модели.
<1%параметров модели обычно обучается при LoRA-адаптации
0переобучений модели нужно, чтобы обновить базу знаний в RAG
~80%корпоративных сценариев, где RAG разумный старт, по оценкам консультантов

Два способа научить модель вашим данным

Готовая языковая модель ничего не знает о ваших тарифах, внутренних регламентах и истории клиента. Чтобы она отвечала по делу, есть два основных подхода.

RAG (retrieval-augmented generation) работает как справочная служба. На каждый вопрос система ищет подходящие фрагменты в базе документов и передаёт их модели вместе с вопросом. Модель отвечает, опираясь на эти фрагменты, и может сослаться на источник.

Дообучение (fine-tuning) меняет саму модель. Её дополнительно тренируют на ваших примерах, и она начинает вести себя иначе: писать в нужном формате, использовать отраслевую лексику, решать узкую задачу точнее. Сегодня чаще всего дообучают не все веса, а небольшой адаптер вроде LoRA, что заметно дешевле.

Если коротко, RAG отвечает на вопрос «что модель знает в момент ответа», а дообучение отвечает на вопрос «как она себя ведёт».

Когда что подходит

ЗадачаЧто выбратьПочему
Ответы по базе знаний и регламентамRAGдокументы меняются, нужен источник ответа
Поддержка клиентов по тарифам и условиямRAGусловия обновляются чаще, чем можно переобучать
Строгий формат ответа, классификация обращенийДообучениеэто поведение, а не знание
Тон бренда, отраслевой стильДообучение или промптчасто хватает хорошей инструкции
Перенос задачи на модель поменьше и подешевлеДообучениемалая модель учится на ответах большой
Ассистент по документам в строгом форматеГибридфакты из поиска, формат из адаптера

Исследование Microsoft 2023 года сравнивало оба подхода на задаче внедрения новых знаний и пришло к выводу, что RAG справляется с ней лучше, чем дообучение без учителя. Это согласуется с практикой: знания, вшитые в веса, сложно обновлять, проверять и удалять. Отдельно исследователи описывают «проклятие обратимости»: модель, выучившая «А это Б», не всегда отвечает на обратный вопрос.

▲ хроника✓ 2020-05 · исследователи Facebook AI описывают подход RAG✓ 2021-06 · статья о LoRA удешевляет дообучение больших моделей✓ 2023-12 · Microsoft сравнивает RAG и дообучение для знаний✓ 2025-03 · поиск по файлам входит в Responses API OpenAI✓ 2026-11 · гибрид «RAG для фактов, адаптер для формы» стал нормой

Из чего складывается стоимость

Сравнивать подходы по цене одного запуска бессмысленно. Редакция советует считать полную стоимость владения за год.

RAG. Основные статьи расходов: подготовка и очистка документов, расчёт эмбеддингов, векторная база или поиск, а главное, рост длины каждого запроса. Найденные фрагменты добавляют сотни и тысячи токенов к каждому вызову, и при большом трафике именно они дают основной счёт. Как растут такие расходы, мы разбирали в посте про экономику инференса.

Дообучение. Здесь дорого не обучение адаптера, а подготовка данных: сотни и тысячи проверенных пар «вопрос и эталонный ответ». Добавьте повторное обучение при каждой смене базовой модели и инфраструктуру, если вы запускаете модель у себя. Когда это выгоднее облачного API, мы считали в материале об открытых моделях.

  • RAG дешевле на старте и дороже на большом объёме запросов с длинным контекстом.
  • Дообучение дороже на старте, но может удешевить запрос, если позволяет перейти на модель меньше.
  • В обоих случаях больше всего стоят люди, которые готовят данные и оценивают качество.

Типовые ошибки

По опыту внедрений, которые описывают компании и интеграторы, ошибки повторяются.

  1. Дообучать, чтобы модель «выучила» документы. Модель запомнит формулировки, но начнёт уверенно смешивать старые и новые версии правил. Источник ответа при этом не показать.
  2. Загрузить всё в RAG без подготовки. Сканы без распознавания, дубликаты, устаревшие версии регламентов. Поиск находит не тот документ, и модель честно пересказывает ошибку.
  3. Не измерять качество поиска. Команды смотрят на итоговый ответ, а проблема сидит на шаге выше: нужный фрагмент просто не попал в выдачу.
  4. Резать документы как попало. Фрагмент без заголовка и контекста теряет смысл: таблица тарифов без названия тарифа бесполезна.
  5. Забыть о правах доступа. Если поиск не учитывает роли, ассистент перескажет сотруднику документ, который тот видеть не должен.
  6. Не иметь набора проверки. Без сотни эталонных вопросов невозможно понять, улучшила ли правка систему или сломала её.
  7. Начинать с самой сложной задачи. Ассистент «по всем документам компании» сразу упирается в противоречия между отделами. Одна тема с понятным владельцем базы знаний даёт результат быстрее и показывает, стоит ли масштабировать проект.

Как понять, что система работает

Оценивать RAG-систему нужно по частям, иначе невозможно понять, где именно ошибка. Редакция рекомендует смотреть минимум на три показателя.

  • Полнота поиска. Попал ли нужный фрагмент в выдачу для эталонного вопроса. Если нет, бесполезно менять модель или промпт.
  • Верность ответа источнику. Не добавила ли модель фактов, которых нет в найденных фрагментах. Это проверяют выборочно вручную или второй моделью-оценщиком.
  • Поведение при пустой выдаче. Отвечает ли система «в базе этого нет», а не сочиняет правдоподобный ответ.

Для дообученной модели набор проще: доля ответов в нужном формате, точность классификации на отложенной выборке и сравнение с исходной моделью на тех же вопросах. Важно проверять и то, что модель не разучилась общим вещам: после узкого дообучения она иногда хуже справляется с задачами за пределами обучающего набора.

Набор проверки стоит обновлять по реальным вопросам пользователей. Через месяц эксплуатации выясняется, что люди спрашивают иначе, чем предполагала команда на старте.

Как начать без лишних затрат

Редакция считает разумным такой порядок. Сначала попробуйте хорошую инструкцию и несколько примеров в промпте: часть задач на этом и заканчивается. Затем подключите RAG к небольшому, вычищенному набору документов по одной теме. Соберите набор из 100-200 реальных вопросов с эталонными ответами и измеряйте отдельно качество поиска и качество ответа.

Дообучение имеет смысл добавлять, когда упёрлись в поведение: модель не держит формат, путает классы обращений или вы хотите перейти на модель меньше ради цены. Для доступа агентов к внутренним системам вместо копирования данных всё чаще используют стандарт Model Context Protocol: модель получает актуальные данные через инструмент в момент запроса.

Хороший пример поэтапного подхода даёт клиентская поддержка. О том, как компании внедряют там ассистентов и где они ошибаются, мы писали в разборе ИИ в поддержке клиентов.

Что изменилось к концу 2026 года

Два года назад выбор между RAG и дообучением часто обсуждали как спор двух лагерей. К ноябрю 2026 года спор в основном закончился. Крупные провайдеры предлагают готовый поиск по файлам прямо в API, окна контекста выросли, и для небольших баз знаний документы иногда проще передать целиком. Дообучение стало дешевле и чаще применяется для переноса задачи на малую модель, а не для загрузки знаний.

Типовая архитектура сейчас гибридная: поиск отвечает за факты и ссылки на источник, небольшой адаптер или подробная инструкция отвечает за формат и тон. Главный вывод редакции не изменился: качество системы определяется качеством данных и проверки, а не названием подхода. Другие разборы внедрений собраны в рубрике «ИИ в бизнесе».

Вопросы и ответы

Можно ли обойтись без RAG, если у модели большое окно контекста?

Для небольшой и стабильной базы документов иногда да: их можно передать целиком. Но при сотнях документов это дорого и медленно, а качество ответов на длинном контексте падает. Поиск остаётся экономичнее.

Сколько данных нужно для дообучения?

Зависит от задачи. Для формата и классификации часто хватает сотен качественных примеров, для сложного навыка нужны тысячи. Важнее качество и единообразие примеров, чем их количество.

Избавляет ли RAG от выдуманных ответов?

Снижает риск, но не убирает его. Модель может неверно понять найденный фрагмент или ответить при пустой выдаче. Помогают требование ссылаться на источник и правило отвечать «не найдено».

Что делать, если поменялась базовая модель?

В RAG достаточно прогнать набор проверки на новой модели и поправить инструкцию. Дообученный адаптер придётся обучать заново, поэтому обучающие данные стоит хранить и версионировать вместе с кодом.

Ещё по теме

Следующая новость уже в ленте