Langfuse

Langfuse

LLM 工程化平台

Langfuse

Langfuse 帮你在生产环境观测、调试并优化 LLM 应用:端到端追踪每次调用,用 LLM-as-judge 自动评分,管理提示词并跑实验对比。

19/50
财富 50 强已采用
10B+
月均观测事件
22k+
GitHub Stars

免费试用 · 无需下载即可在线体验

关于 Langfuse

把 LLM 应用变得可观测、可评测、可优化

Langfuse 是 MIT 协议开源的 LLM 工程化平台,覆盖从开发到生产的完整链路。它通过 SDK 自动采集每次模型调用的输入、输出、token 与时延,形成可回溯的 trace,让黑盒推理过程透明可见。

平台内置 LLM-as-judge 自动评测、提示词版本管理、数据集与实验对比,并支持完全自托管(Docker / Kubernetes),满足企业对数据合规与隐私的要求。

核心功能一览

六大核心能力,覆盖创作全流程

🔭

观测与追踪

端到端 trace 记录每次 LLM 调用链,定位慢请求与高成本节点。

📝

提示词管理

集中管理提示词版本、变量与多模型配置,支持灰度与回滚。

⚖️

自动化评测

用 LLM-as-judge 与自定义评分器批量打分,把质量变成可量化指标。

🧪

实验与对比

在数据集上并行跑多版本,量化准确率、成本与时延差异。

💰

成本与延迟

按模型、用户、会话统计 token 消耗与延迟,定位优化空间。

🏷️

人工标注

支持团队对输出做人工打分与反馈,沉淀高质量训练数据。

零基础快速上手

4 步完成你的第一件 AI 作品,无需任何设计经验

1

安装 SDK

pip install langfuse 或 npm i langfuse,几行代码即可接入现有应用。

2

初始化客户端

用 Langfuse 公钥与密钥创建客户端,配置 base_url 指向你的部署。

3

采集 trace

用 @observe 装饰器或手动 start_span 包裹 LLM 调用,自动上报链路。

4

评测与迭代

在控制台创建数据集与评测器,批量跑分并对比不同提示词版本。

全平台客户端下载

支持网页端、桌面端、移动端及浏览器插件,随时随地开启创作

使用入口

官方文档
快速开始与 SDK 指南
下载
自托管部署
Docker / Kubernetes
下载
GitHub
开源仓库(MIT)
下载
Python 包
pip install langfuse
下载
Cloud 控制台
托管版注册
下载
SpeedAIAD

常见问题解答

遇到问题?这里可能有你想要的答案

1

Langfuse 与 Helicone 有何区别?

两者都做 LLM 可观测,Langfuse 额外内置评测、提示管理与实验对比,更偏完整的工程化闭环。

2

数据是否出域?

可完全自托管,所有 trace 留在你自己的基础设施内,满足数据合规要求。

同类对比

和同类工具横向对比,帮你选对工具。

对比维度LangfuseHeliconeWeights & Biases
开源协议MITMIT闭源/商业
LLM 评测内置 LLM-as-judge有限需 W&B Weave
自托管支持支持有限
提示管理部分