关于 AnythingLLM
开箱即用的本地 RAG 全栈平台
AnythingLLM 是一款全栈 RAG 应用，以桌面应用或 Docker 容器两种形态交付，内置向量数据库（LanceDB）、嵌入器与工作区抽象，让不同文档集保持清晰隔离。它把 Ollama / LM Studio / vLLM / OpenAI / Anthropic 等模型接入后，几分钟即可得到一个可带引用的文档问答系统。
与传统「装个向量库 + 写嵌入流水线」的方案不同，AnythingLLM 的零基础设施 RAG 来自内嵌的 LanceDB，无需额外托管 Qdrant 或 Pinecone；工作区机制让每个工作区拥有独立文档、设置、模型与对话历史，非常适合多项目或多租户场景。
在隐私与部署上，AnythingLLM 默认本地运行 LLM、向量库与存储组件，所有 AI 指令与文档处理都在本地完成；同时支持开发者 API、Agent Skills（网页抓取、搜索、摘要、记忆）与原生 MCP 兼容，便于把「知识 + 模型 + 工具」拼成可用的 AI 应用。
核心功能一览
六大核心能力，覆盖创作全流程
零基础设施 RAG
内置 LanceDB 向量库与嵌入器，无需自建向量数据库即可对文档问答。
工作区隔离
每个工作区拥有独立文档、模型与对话历史，适合多项目与多租户。
多模型接入
对接 Ollama、LM Studio、vLLM、OpenAI、Anthropic 等任意模型，本地或云端皆可。
原生 Agent 与 MCP
工作区级 Agent 支持网页抓取、搜索、摘要与记忆，并原生兼容 MCP 协议。
可嵌入组件
提供可嵌入网站的聊天组件，轻松为站点增加私有化客服机器人。
零基础快速上手
4 步完成你的第一件 AI 作品，无需任何设计经验
安装桌面端
从官网下载 macOS / Windows / Linux 一键安装包，无需配置即可运行。
选择模型
在设置中接入本地模型（Ollama/LM Studio）或云端模型（OpenAI/Anthropic 等）。
创建工作区并导入文档
新建工作区，把 PDF、Word、CSV、网页或代码库拖入，自动切分嵌入。
开始对话与嵌入
在对话中提问并获得带引用的回答；或用嵌入组件把问答挂到自己的网站。
常见问题解答
遇到问题？这里可能有你想要的答案
AnythingLLM 完全免费吗？
桌面端与 Docker 版均开源（MIT）且免费；企业级的团队管理、白标等高级能力在自托管/云端版本中提供。
可以完全离线使用吗？
可以。只要使用本地 LLM + 本地嵌入器（如 Ollama），数据与推理都不离开你的网络。
AnythingLLM 与 Open WebUI 怎么选？
若以「和我的文档对话」或工作区隔离为主，AnythingLLM 更省事；若以通用聊天为主、偶尔上传文档，Open WebUI 更轻量。很 多团队两者并行。
与本地 RAG 工具对比
和同类工具横向对比，帮你选对工具。
| 对比维度 | AnythingLLM | Open WebUI | Dify |
|---|---|---|---|
| 内置向量库 | LanceDB | 需外接 | 需外接 |
| 工作区隔离 | 原生 | 基础 | 基础 |
| 可嵌入组件 | 支持 | 不支持 | 支持 |
| 原生 Agent | 支持 | 支持 | 支持 |
| 定位 | 文档问答 RAG | 通用聊天 | AI 应用平台 |
同类推荐工具
发现更多优质 AI 创作工具，找到最适合你的那一款
AI21 Labs
AI21 Labs 是 2017 年成立的独立基础模型公司，主打 Jamba 系列开源权重大模型——采用 Mamba-Transformer 混合架构、支持 256K 上下文，并以 Maestro 编排平台服务金融、医疗等受监管行业。
阿里云百炼
阿里云百炼（Model Studio）是一站式大模型开发平台，集成通义千问全 系列与 DeepSeek、Kimi、智谱 GLM 等三方模型，提供模型推理、微调（SFT/CPT/DPO）、部署、Agent 开发、RAG 知识库与 MCP 注册能力，并兼容 OpenAI 接口。
Anyscale
Anyscale 是 Ray 原创团队创立的托管式 AI 计算平台，为分布式模型训练、批量推理、RAG 管线、智能体编排与强化学习后训练提供生产级基础设施。基于 Ray 这一被 OpenAI、Uber、Shopify 等广泛使用的开源分布式引擎，支持多云（AWS / GCP / Azure 等）与 Bring-Your-Own-Cloud，按用量计费，新用户赠 $100 额度。
Apache Airflow
Apache 顶级开源项目，用 Python 代码定义有向无环图（DAG）来编排批处理工作流，拥有 1500+ 算子与庞大生态，是数据管道调度领域的事实标准。