LlamaIndexRAGPythonIntegration
LlamaIndex 接入中国大模型:构建高级 RAG 系统
LlamaIndex 是最流行的 RAG 开发框架之一,支持通过 OpenAI 兼容接口接入 ChinaWHAPI 的所有模型。
LlamaIndex 简介
LlamaIndex 是一个专为构建 RAG 系统设计的框架,提供数据连接、向量索引、检索和生成的全套工具。
接入 ChinaWHAPI
from llama_index.llms.openai_like import OpenAILike
llm = OpenAILike(
model="qwen3.6-plus",
api_key="your_chinawhapi_key",
api_base="https://chinawhapi.com/v1",
is_chat_model=True,
)构建 RAG Pipeline
from llama_index import VectorStoreIndex, SimpleDirectoryReader
from llama_index.vector_stores.qdrant import QdrantVectorStore
from llama_index.llms.openai_like import OpenAILike
llm = OpenAILike(model="qwen3.6-plus", api_key="key", api_base="https://chinawhapi.com/v1")
documents = SimpleDirectoryReader("./docs").load_data()
index = VectorStoreIndex.from_documents(documents)
query_engine = index.as_query_engine(llm=llm)
response = query_engine.query("总结这份文档的核心观点")高级功能
LlamaIndex 支持多模态索引(图片+文本)、查询改写、混合检索、重排序等高级 RAG 功能。