1from langchain.text_splitter import RecursiveCharacterTextSplitter
2
3splitter = RecursiveCharacterTextSplitter(
4    chunk_size=1000,           # ~250-300 từ tiếng Anh
5    chunk_overlap=200,         # 20% overlap để giữ context giữa 2 chunk
6    separators=["\n\n", "\n", ". ", " ", ""],
7    length_function=len,
8)
9
10chunks = splitter.split_documents(documents)
11print(f"Tổng số chunks: {len(chunks)}")

1# Ví dụ Cohere Rerank với LangChain
2from langchain_cohere import CohereRerank
3
4reranker = CohereRerank(model="rerank-v3.5", top_n=3)
5reranked_docs = reranker.compress_documents(
6    documents=retrieved_docs,   # top-50 từ vector search
7    query=user_query
8)
9# reranked_docs giờ chỉ còn 3 chunk chính xác nhất

1RAG_PROMPT = """Bạn là trợ lý AI trả lời câu hỏi dựa trên TÀI LIỆU được cung cấp.
2
3QUY TẮC BẮT BUỘC:
41. CHỈ trả lời dựa trên TÀI LIỆU bên dưới. KHÔNG dùng kiến thức ngoài.
52. Nếu TÀI LIỆU không đủ thông tin, trả lời: "Tôi không tìm thấy thông tin này trong tài liệu."
63. Mỗi claim phải có citation dạng [Nguồn: <tên_file>, trang X].
74. Trả lời ngắn gọn, có cấu trúc (bullet/số) nếu phù hợp.
85. Trả lời bằng tiếng Việt.
9
10TÀI LIỆU:
11---
12{context}
13---
14
15CÂU HỎI: {question}
16
17CÂU TRẢ LỜI:"""

1from langchain_community.document_loaders import PyPDFLoader
2from langchain.text_splitter import RecursiveCharacterTextSplitter
3from langchain_openai import OpenAIEmbeddings, ChatOpenAI
4from langchain_community.vectorstores import Chroma
5from langchain.chains import RetrievalQA
6
7# 1. Load document
8loader = PyPDFLoader("tai_lieu.pdf")
9docs = loader.load()
10
11# 2. Chunk
12splitter = RecursiveCharacterTextSplitter(chunk_size=1000, chunk_overlap=200)
13chunks = splitter.split_documents(docs)
14
15# 3. Embed + store
16embeddings = OpenAIEmbeddings(model="text-embedding-3-large")
17vectorstore = Chroma.from_documents(chunks, embeddings, persist_directory="./db")
18
19# 4. Build QA chain
20retriever = vectorstore.as_retriever(search_kwargs={"k": 5})
21qa = RetrievalQA.from_chain_type(
22    llm=ChatOpenAI(model="gpt-4o-mini", temperature=0),
23    retriever=retriever,
24    return_source_documents=True,
25)
26
27# 5. Query
28result = qa.invoke({"query": "Quy trình phê duyệt khoản vay tại VPBank?"})
29print(result["result"])
30for doc in result["source_documents"]:
31    print(f"📄 {doc.metadata.get('source')} — trang {doc.metadata.get('page')}")

1from llama_index.core import VectorStoreIndex, SimpleDirectoryReader, Settings
2from llama_index.embeddings.openai import OpenAIEmbedding
3from llama_index.llms.openai import OpenAI
4from llama_index.postprocessor.cohere_rerank import CohereRerank
5from llama_index.retrievers.bm25 import BM25Retriever
6from llama_index.core.retrievers import QueryFusionRetriever
7
8Settings.llm = OpenAI(model="gpt-4o")
9Settings.embed_model = OpenAIEmbedding(model="text-embedding-3-large")
10
11# Load + index
12docs = SimpleDirectoryReader("./documents").load_data()
13index = VectorStoreIndex.from_documents(docs)
14
15# Hybrid retriever (vector + BM25)
16vector_retriever = index.as_retriever(similarity_top_k=20)
17bm25_retriever = BM25Retriever.from_defaults(
18    docstore=index.docstore, similarity_top_k=20
19)
20hybrid_retriever = QueryFusionRetriever(
21    [vector_retriever, bm25_retriever],
22    similarity_top_k=10,
23    mode="reciprocal_rerank",
24)
25
26# Reranker
27reranker = CohereRerank(top_n=3, model="rerank-v3.5")
28
29# Query engine
30query_engine = index.as_query_engine(
31    retriever=hybrid_retriever,
32    node_postprocessors=[reranker],
33)
34
35response = query_engine.query("Chính sách lãi suất khoản vay mua nhà 2026?")
36print(response)
37print("Sources:", [n.metadata for n in response.source_nodes])

1# Đánh giá RAG bằng RAGAS
2from ragas import evaluate
3from ragas.metrics import (
4    faithfulness, answer_relevancy,
5    context_precision, context_recall
6)
7from datasets import Dataset
8
9eval_data = Dataset.from_dict({
10    "question": questions,
11    "answer": generated_answers,
12    "contexts": retrieved_contexts,   # list of list
13    "ground_truth": gold_answers,
14})
15
16result = evaluate(
17    dataset=eval_data,
18    metrics=[faithfulness, answer_relevancy, context_precision, context_recall],
19)
20print(result)
21# {'faithfulness': 0.87, 'answer_relevancy': 0.92,
22#  'context_precision': 0.81, 'context_recall': 0.78}