关于 Langfuse
把 LLM 应用变得可观测、可评测、可优化
Langfuse 是 MIT 协议开源的 LLM 工程化平台，覆盖从开发到生产的完整链路。它通过 SDK 自动采集每次模型调用的输入、输出、token 与时延，形成可回溯的 trace，让黑盒推理过程透明可见。
平台内置 LLM-as-judge 自动评测、提示词版本管理、数据集与实验对比，并支持完全自托管（Docker / Kubernetes），满足企业对数据合规与隐私的要求。
核心功能一览
六大核心能力，覆盖创作全流程
观测与追踪
端到端 trace 记录每次 LLM 调用链，定位慢请求与高成本节点。
提示词管理
集中管理提示词版本、变量与多模型配置，支持灰度与回滚。
自动化评测
用 LLM-as-judge 与自定义评分器批量打分，把质量变成可量化指标。
实验与对比
在数据集上并行跑多版本，量化准确率、成本与时延差异。
成本与延迟
按模型、用户、会话统计 token 消耗与延迟，定位优化空间。
人工标注
支持团队对输出做人工打分与反馈，沉淀高质量训练数据。
零基础快速上手
4 步完成你的第一件 AI 作品，无需任何设计经验
安装 SDK
pip install langfuse 或 npm i langfuse，几行代码即可接入现有应用。
初始化客户端
用 Langfuse 公钥与密钥创建客户端，配置 base_url 指向你的部署。
采集 trace
用 @observe 装饰器或手动 start_span 包裹 LLM 调用，自动上报链路。
评测与迭代
在控制台创建数据集与评测器，批量跑分并对比不同提示词版本。
常见问题解答
遇到问题？这里可能有你想要的答案
Langfuse 与 Helicone 有何区别？
两者都做 LLM 可观测，Langfuse 额外内置评测、提示管理与实验对比，更偏完整的工程化闭环。
数据是否出域？
可完全自托管，所有 trace 留在你自己的基础设施内，满足数据合规要求。
同类对比
和同类工具横向对比，帮你选对工具。
| 对比维度 | Langfuse | Helicone | Weights & Biases |
|---|---|---|---|
| 开源协议 | MIT | MIT | 闭源/商业 |
| LLM 评测 | 内置 LLM-as-judge | 有限 | 需 W&B Weave |
| 自托管 | 支持 | 支持 | 有限 |
| 提示管理 | 是 | 否 | 部分 |
同类推荐工具
发现更多优质 AI 创作工具，找到最适合你的那一款
LangSmith
LangSmith 是 LangChain 推出的智能体工程平台，提供从构建、测试、部署到监控迭代的全生命周期能力。它通过高保真 Tracing 还原 Agent 每一步执行，用 LLM-as-Judge 与评价队列把线上数据转化为测试集，帮助团队持续评估并治理生产级智能体，且框架无关，可对接任意 Agent 技术栈。
MLflow
MLflow 是由 Databricks 创建、被广泛采用的开源 MLOps 平台，覆盖实验跟踪、模型注册、模型部署与评估的全生命周期，框架无关，避免厂商锁定。
Braintrust
Braintrust 是面向生产级 AI 的可观测与评测（evals）平台，帮助团队用代码/LLM-as-judge/人工三种方式定义评分、在 CI 中跑回归、监控生产 trace 并持续迭代；2023 年由 Ankur Goyal 创立，2026 年 2 月完成 8000 万美元 B 轮（ICONIQ 领投），客户含 Notion、Stripe、Replit、Cloudflare。
Modulate
Modulate 是波士顿音频 AI 初创公司，用 100+ 专用小模型组成的 Ensemble Listening Model 架构，直接分析音频原始信号而非文本转写，实现情感识别、意图判断、Deepfake 检测与对话行为分析，月处理超 1000 万小时音频。