Telegram-бот с базой знаний и AI: как устроить RAG без выдуманных ответов

Подготовьте источники

Начните с актуальных документов: FAQ, регламентов, инструкций, описаний услуг и условий. Удалите устаревшие версии и дубли. Если источник противоречит другому документу, модель не сможет надёжно решить, какой из них правильный.

Разделите текст на удобные фрагменты

Документы обычно разбиваются на небольшие смысловые части, которые затем индексируются. Слишком большие фрагменты дают много лишнего контекста, слишком маленькие теряют смысл. Полезно сохранять название источника и раздел, чтобы потом показывать пользователю происхождение ответа.

Поиск должен происходить до генерации

Запрос пользователя преобразуется в представление для поиска, после чего система выбирает наиболее релевантные фрагменты. Только эти материалы передаются модели вместе с инструкцией отвечать по найденному контексту. Это уменьшает риск уверенной импровизации.

Научите бота признавать отсутствие ответа

Если релевантного источника нет, безопаснее сообщить, что база не содержит достаточной информации, и предложить обратиться к человеку. Попытка отвечать любой ценой делает RAG-бота похожим на обычный чат и подрывает доверие.

Обновление базы — часть продукта

Продумайте, как новые документы попадают в индекс и как удаляются устаревшие. После каждого крупного обновления запускайте набор контрольных вопросов. Качество RAG определяется не только моделью, но и чистотой источников, поиском и тестами.

Практика: подготовьте контрольные вопросы для RAG

Возьмите небольшой набор документов и составьте 15 вопросов: пять с прямым ответом, пять требующих сопоставить несколько фрагментов и пять, на которые ответа в базе нет. Для каждого заранее запишите ожидаемый источник. После индексации прогоните весь набор и оценивайте отдельно retrieval и финальный ответ. Это даст реальную метрику качества вместо субъективного ощущения «бот вроде отвечает хорошо».

Тематический кластер

Основное руководство

Как создать Telegram-бота с AI: от сценария до работающей автоматизации

Другие материалы по этой теме

Освойте направление «Telegram-боты с AI» на практике

Посмотрите программу практикума и откройте первый модуль бесплатно, прежде чем оформлять доступ.

Программа практикума Первый модуль бесплатно