Генерация с дополненной выборкой (RAG)
Генерация с дополненной выборкой (RAG) — это подход, при котором релевантные документы извлекаются из внешнего хранилища в момент запроса и вставляются в промпт, чтобы модель отвечала на основе этого свежего, конкретного материала, а не только по памяти.
Встроенные знания модели зафиксированы на момент обучения и не могут покрывать приватные или свежие данные. RAG закрывает этот разрыв: по запросу пользователя выполняется поиск в базе знаний (часто через векторное сходство), наиболее подходящие фрагменты подтягиваются в контекстное окно, и модель отвечает, опираясь на них. Это делает ответы актуальными и конкретными, позволяет ссылаться на источники и снижает галлюцинации — при условии, что выборка действительно находит нужный материал.
Ключевые тезисы
- Извлекать релевантные фрагменты в момент запроса, помещать их в промпт, а затем генерировать ответ, опираясь на них.
- Держит ответы актуальными и предметными без переобучения модели.
- Позволяет давать ссылки на источники и снижает галлюцинации — но лишь настолько, насколько хороша выборка.
- Качество выборки (нарезка на фрагменты, эмбеддинги, ранжирование) обычно важнее выбора самой модели.
Освой на практике
Way of the Agent обучает инженерии ИИ-агентов уровень за уровнем — сначала такие концепты, потом практика, XP и Хроники ИИ.
Начать бесплатно →