RAG начинается с качества источников
Соберите только актуальные документы и определите, какие из них являются источником истины. Уберите дубли, черновики и устаревшие версии. Если база сама содержит противоречия, агент будет выдавать нестабильные ответы независимо от качества модели.
Индексация и чанки
Текст делят на смысловые фрагменты и сохраняют вместе с метаданными: названием документа, разделом, датой и правами доступа. Размер фрагмента выбирают так, чтобы он содержал законченную мысль, но не тащил в контекст лишние страницы.
Retrieval перед вызовом модели
По запросу пользователя система ищет несколько наиболее релевантных фрагментов. Затем модель получает их вместе с вопросом и инструкцией использовать найденный контекст. Агент может на основе результата либо ответить, либо решить, что нужен дополнительный инструмент.
Цитаты и проверяемость
Полезно возвращать не только итог, но и источник: документ, раздел или ссылку. Это позволяет пользователю проверить ответ и облегчает диагностику ошибок. Для важных решений нельзя полагаться на уверенный тон модели без возможности проследить источник.
Тестовый набор важнее демонстрации
Подготовьте десятки реальных вопросов: простые, неоднозначные, без ответа в базе и с похожими формулировками. Проверяйте не только красивый ответ, но и правильность найденного источника. После изменения индекса повторяйте этот набор как регрессионный тест.
Практика: разделите ошибки retrieval и генерации
Для десяти тестовых вопросов сохраните отдельно найденные фрагменты и финальный ответ модели. Если ответ неверный, сначала определите: нужный источник не нашёлся или модель неправильно использовала правильный контекст. Эти два типа ошибок исправляются по-разному. Такой журнал значительно ускоряет настройку RAG и не позволяет бесконечно менять промпт, когда проблема на самом деле находится в поиске.
Основное руководство
AI-агенты: что это такое и как научиться создавать их для реальных задачДругие материалы по этой теме
- AI-агент и чат-бот: в чём разница и когда нужен именно агент
- MCP для AI-агентов: что это такое и как подключать инструменты безопасно
- Function calling и инструменты AI-агента: как модель вызывает функции и API
- Обучение AI-агентам с нуля: практикум RAG, tools и MCP
- Заработок на AI-агентах: какие задачи продавать бизнесу и как начать
Освойте направление «AI-агенты» на практике
Посмотрите программу практикума и откройте первый модуль бесплатно, прежде чем оформлять доступ.