LlamaIndex
让大模型用上「你的数据」
LlamaIndex 是面向 LLM 应用的开源数据框架，把文档、数据库与 API 接入检索、问答、聊天与智能体流程，是 RAG 从原型走向生产的主流选择。
免费试用 · 无需下载即可在线体验
上下文增强型 LLM 应用框架
数据接入是 RAG 成败的关键
LlamaIndex（🦙）定位为「上下文增强型 LLM 应用框架」。大模型虽预训练于海量公开数据，却不知道你的私有数据——LlamaIndex 提供把 API、PDF、SQL、云盘等数据源接入并结构化的工具，让 LLM 在推理时获得正确上下文。
其典型形态是检索增强生成（RAG）：文档加载 → 向量索引 → 智能问答。框架提供查询引擎、聊天引擎、智能体与事件驱动的 Workflows，并从 Python 扩展到 TypeScript，方便 Node.js / Next.js 项目直接集成。
LlamaParse 是其商业化重心，擅长复杂 PDF / Office / 图片的表格、多栏与手写解析；文档指出其月下载量 25M+、贡献者 1.5k+、社区成员 20k+，被 Salesforce Agentforce 等团队用于生产。
核心功能一览
六大核心能力，覆盖创作全流程
数据连接器（LlamaHub）
150+ 集成覆盖 Google Drive、Confluence、Slack、Notion、数据库与网页等，把数据从原生来源直接接入，免去手工搬运。
多种索引与检索
支持向量、关键词、树状与知识图谱索引，可组合混合检索、递归检索与路由查询，按场景选择最优检索策略。
查询 / 聊天引擎
高层问答与多轮对话接口，底层支持子问题分解、多步检索、重排与回复合成，并保留低层可定制钩子。
Workflows 事件驱动编排
用异步 Python 函数编排多步 AI 流程（解析、抽取、图谱、问答），支持暂停 / 恢复与人机协同，适合生产级智能体。
零基础快速上手
4 步完成你的第一件 AI 作品，无需任何设计经验
安装并准备数据
执行 `pip install llama-index`，把待查询的文档放入本地 data 目录。
构建向量索引
用 SimpleDirectoryReader 载入文档，VectorStoreIndex.from_documents 建立索引，几行代码完成数据接入。
进行 RAG 问答
将索引转为查询引擎并调用 query，LlamaIndex 会自动检索相关片段送交 LLM 生成带上下文的回答。
进阶为智能体与工作流
引入 LlamaParse 处理复杂文档、用 Workflows 编排多步流程，或接入向量数据库把检索层生产化。
LLM 应用框架对比
和同类工具横向对比，帮你选对工具。
| 对比维度 | 维度 | LlamaIndex | LangChain | Haystack |
|---|---|---|---|---|
| 核心侧重 | 数据 / RAG 接入 | 多工具编排 | 生产级 RAG 管线 | |
| 数据连接器 | 150+（LlamaHub） | 丰富 | 有 | |
| 索引抽象 | 向量 / 关键词 / 树 / 图谱 | 较少内置 | 管道化 | |
| 复杂文档解析 | LlamaParse 强 | 需集成 | 需集成 | |
| 适用场景 | 检索质量优先 | 通用编排 | 企业检索 |
同类推荐工具
发现更多优质 AI 创作工具，找到最适合你的那一款
Cohere
Cohere 是面向企业的 AI 公司，由 Transformer 论文《Attention Is All You Need》的联合作者 Aidan Gomez 于 2019 年在多伦多创立，提供 Command 系列大模型、Embed 与 Rerank 模型以及 Coral 企业助手，支持 AWS / GCP / Azure 与本地私有部署，专注 RAG 与数据安全。
Deepgram
Deepgram 是用于实时与批量语 音转写的开发者优先 STT API，Nova-3 模型实现亚 300ms 流式延迟、50+ 语言支持，并为语音智能体提供原生端点检测。
Dify
Dify 是开源的 LLM 应用开发平台，把可视化工作流编排、RAG 知识库、Agent 框架、模型管理与 LLMOps 观测集成在一个画布里，支持云端与私有化部署。
Groq
Groq 是提供极速 AI 推理的开放平台，自研 LPU 处理器让开源大模型实现亚秒级响应，并通过 OpenAI 兼容 API 让开发者即插即用。