Создание RAG-агента на LangChain
В двух предыдущих статьях мы подготовили векторное хранилище и retriever.
В этой статье мы объединяем их в Agent, чтобы создать полноценного RAG-агента — интеллектуального помощника, который может отвечать на вопросы на основе приватной базы знаний.
Создание инструмента Retriever
Оберните retriever в инструмент, и Agent сможет автоматически искать в базе знаний, когда это необходимо.
Если у вас нет ключа OpenAI, вы можете использовать сервис Embedding от Alibaba Bailian; см. конфигурацию.https://www.example.com/langchain/langchain-alibailian.html:
# OpenAI 的文本嵌入模型
# 将文本转换为向量(一组浮点数)
# 使用阿里云百炼(DashScope)的通义千问 Embedding 服务
embeddings = OpenAIEmbeddings(
model="text-embedding-v4",
api_key=os.getenv("DASHSCOPE_API_KEY"),
base_url="https://dashscope.aliyuncs.com/compatible-mode/v1",
check_embedding_ctx_length=False,
chunk_size=10,
)
Пример (OpenAI)
from dotenv import load_dotenv
load_dotenv()
from langchain.tools import tool
from langchain.agents import create_agent
from langchain.chat_models import init_chat_model
from langchain.messages import HumanMessage
from langchain_openai import OpenAIEmbeddings
from langchain_chroma import Chroma
from langchain_text_splitters import RecursiveCharacterTextSplitter
# ----- Шаг 1: Подготовка базы знаний -----
# Имитация документов знаний EXAMPLE
knowledge_docs = [
"EXAMPLE была основана в 2013 году и является полностью бесплатной платформой для изучения программирования.",
"Платформа выпустила 300+ учебных пособий, охватывающих фронтенд, бэкенд, базы данных, мобильную разработку и другие области.",
"Базовый учебник Python3 — самый популярный курс на платформе, его прошли более 5 миллионов учащихся за всё время.",
"Базовый учебник Python3 состоит из 30 глав, включая настройку окружения, базовый синтаксис, функции, классы, обработку исключений и многое другое.",
"Базовый учебник HTML состоит из 25 глав, охватывающих всё: от базовой структуры HTML до форм и мультимедийных элементов.",
"EXAMPLE поддерживает выполнение кода онлайн; учащиеся могут писать и запускать код без установки какого-либо программного обеспечения.",
"Платформа оптимизирована для мобильных устройств, позволяя пользователям учиться программированию в любое время и в любом месте со своих телефонов.",
"Сервис членства EXAMPLE предоставляет дополнительные услуги, такие как видеокурсы, практические проекты и индивидуальные вопросы и ответы.",
]
# Разделить
text_splitter = RecursiveCharacterTextSplitter(
chunk_size=200, chunk_overlap=30
)
chunks = text_splitter.create_documents(knowledge_docs)
# Векторное хранилище -- это можно изменить на Alibaba Bailian, если у вас нет ключа OpenAI
embeddings = OpenAIEmbeddings(model="text-embedding-3-small")
vector_store = Chroma.from_documents(
documents=chunks,
embedding=embeddings,
)
retriever = vector_store.as_retriever(search_kwargs={"k": 3})
# ----- Шаг 2: Создать инструмент поиска -----
@tool
def search_knowledge_base(query: str) -> str:
"""Поиск релевантной информации в базе знаний EXAMPLE.
Когда пользователи спрашивают конкретную информацию об EXAMPLE (например, количество курсов, история платформы, возможности и т. д.),
вы должны использовать этот инструмент для запроса к базе знаний, чтобы получить точную информацию.
Аргументы:
query: поисковый запрос или вопрос
"""
docs = retriever.invoke(query)
if not docs:
return "В базе знаний не найдена соответствующая информация."
results = []
for i, doc in enumerate(docs, 1):
results.append(f"[{i}] {doc.page_content}")
return "\n\n".join(results)
# ----- Шаг 3: Создание RAG-агента -----
model = init_chat_model("deepseek:deepseek-v4-flash", temperature=0)
agent = create_agent(
model=model,
tools=[search_knowledge_base],
system_prompt="""Вы — интеллектуальный ассистент службы поддержки клиентов EXAMPLE.
## Правила
1. Когда пользователи спрашивают о конкретной информации об EXAMPLE, вы должны использовать инструмент search_knowledge_base для запроса.
2. Отвечайте на основе полученной информации; не придумывайте содержимое, которого нет в базе знаний.
3. Если в базе знаний нет соответствующей информации, честно скажите пользователю.
4. Будьте дружелюбны, кратки и точны в своих ответах.""",
)
# ----- Шаг 4: Тестирование -----
questions = [
"Когда был основан EXAMPLE?",
"Сколько глав в Python3 Basic Tutorial?",
"Сколько всего руководств у EXAMPLE?",
]
for q in questions:
result = agent.invoke({"messages": [HumanMessage(content=q)]})
print(f"Q: {q}")
print(f"О: {result['messages'][-1].content}")
print("-" * 60)
Результаты запуска:
Q: Example是什么时候创立的? A: Example创立于 2013 年,是一个完全免费的编程学习平台。 ------------------------------------------------------------ Q: Python3 基础教程有多少章? A: Python3 基础教程共 30 章,包含环境搭建、基本语法、函数、类、异常处理等内容。 ------------------------------------------------------------ Q: Example一共有多少套教程? A: Example已上线 300+ 套教程,涵盖前端、后端、数据库、移动开发等多个领域。 ------------------------------------------------------------
Поток выполнения RAG-агента
Для третьего вопроса выше, "Сколько всего руководств у EXAMPLE?", поток выполнения Агента таков:
- Пользователь задаёт вопрос
- Модель определяет, что ей нужно запросить базу знаний → вызывает search_knowledge_base("количество руководств EXAMPLE")
- Ретривер выполняет поиск в векторной базе данных семантически наиболее похожих фрагментов документов.
- Возвращает результаты поиска модели.
- Модель генерирует точный ответ на основе результатов поиска.
Добавление источников цитирования
Профессиональные RAG-системы обычно включают источники цитирования, чтобы пользователи знали, откуда берётся информация:
Пример
@tool
def search_with_sources(query: str) -> str:
"""Поиск в базе знаний EXAMPLE и возврат результатов с аннотациями источников.
Аргументы:
query: поисковое ключевое слово
"""
docs = retriever.invoke(query)
if not docs:
return "Релевантная информация не найдена."
results = []
for i, doc in enumerate(docs, 1):
source = doc.metadata.get("source", "EXAMPLE База знаний")
results.append(f"[Источник {i}: {source}]"\n{doc.page_content}")
return "\n\n".join(results)
# Чтобы сохранить информацию об источнике в документе, можно добавить метаданные при его создании.
doc_with_meta = Document(
page_content="Базовый учебник по Python3 содержит 30 глав...",
metadata={"source": "Базовый учебник по Python3 - Введение в курс", "url": "https://www.example.com/python3/"}
)
Сохранение векторного хранилища
В реальных проектах вы не перестраиваете векторный индекс каждый раз. Chroma поддерживает сохранение в локальное хранилище:
Пример
embeddings = OpenAIEmbeddings(model="text-embedding-3-small")
vector_store = Chroma.from_documents(
documents=chunks,
embedding=embeddings,
persist_directory="./example_vector_db", # Каталог для сохранения
)
# Загружать напрямую при последующих запусках
loaded_store = Chroma(
persist_directory="./example_vector_db",
embedding_function=embeddings,
)
retriever = loaded_store.as_retriever()
# Не нужно пересчитывать векторы!
Другие расширенияСохранение векторного хранилища может значительно повысить скорость запуска. При больших объёмах документов (десятки тысяч документов) пересчёт эмбеддингов для всех векторов может занять десятки минут. После сохранения достаточно лишь загрузить его.