一、什么是Langfuse
Langfuse 是一个 **开源 LLM 工程** 平台。它帮助团队协作 **开发、监控、评估** 以及 **调试** AI 应用。Langfuse 可在几分钟内 **自托管**,并且经过 **实战考验**。其核心组件包括Web界面、Worker进程、Postgres数据库、Clickhouse存储等。
## ✨ 核心特性
[LLM 应用可观察性]:为你的应用插入仪表代码,并开始将追踪数据传送到 Langfuse,从而追踪 LLM 调用及应用中其他相关逻辑(如检索、嵌入或代理操作)
[提示管理]:帮助你集中管理、版本控制并协作迭代提示。得益于服务器和客户端的高效缓存,你可以在不增加延迟的情况下反复迭代提示。
[评估]是 LLM 应用开发流程的关键组成部分,Langfuse 能够满足你的多样需求。它支持 LLM 作为"裁判"、用户反馈收集、手动标注以及通过 API/SDK 实现自定义评估流程。
[数据集]为评估你的 LLM 应用提供测试集和基准。它们支持持续改进、部署前测试、结构化实验、灵活评估,并能与 LangChain、LlamaIndex 等框架无缝整合。
[LLM 试玩平台]是用于测试和迭代提示及模型配置的工具,缩短反馈周期,加速开发。当你在追踪中发现异常结果时,可以直接跳转至试玩平台进行调整。
[综合 API]:Langfuse 常用于驱动定制化的 LLMOps 工作流程,同时利用 Langfuse 提供的构建模块和 API。我们提供 OpenAPI 规格、Postman 集合以及针对 Python 和 JS/TS 的类型化 SDK。
二、架构图
Langfuse仅依赖于开源组件,可以在本地、云基础设施或本地部署。

Langfuse由两个应用程序容器、存储组件和可选的LLM API/网关组成。
应用程序容器
Langfuse Web:服务于Langfuse UI和API的主要Web应用程序。
Langfuse Worker:异步处理事件的Worker。
存储组件:
Postgres:事务性工作负载的主数据库。
Clickhouse:高性能OLAP数据库,用于存储跟踪、观察和分数。
Redis/Valkey缓存:一种快速的内存数据结构存储。用于队列和缓存操作。
S3/Blob存储:对象存储,用于保存所有传入事件、多模式输入和大型导出。
LLM API/网关:某些功能依赖于外部LLM API或网关。
三、安装部署
3.1、拉取指定版本镜像
注:最新版本存在问题。
docker pull langfuse/langfuse:2.60.3
3.2、运行容器
docker run -d --name langfuse \
-e DATABASE_URL=postgresql://langfuse:Sinops1234~@192.168.1.201:5432/langfuse_db \
-e NEXTAUTH_URL=http://192.168.1.204:3001 \
-e NEXTAUTH_SECRET=mysecret \
-e SALT=mysalt \
-e CLICKHOUSE_MIGRATION_URL=clickhouse://192.168.1.204:9000 \
-e CLICKHOUSE_URL=http://192.168.1.204:8123 \
-e CLICKHOUSE_USER=default \
-e CLICKHOUSE_PASSWORD=sinops@2024 \
-e REDIS_HOST=192.168.1.204 \
-e REDIS_PORT=6379 \
-e REDIS_AUTH=Sinops1234~ \
-e LANGFUSE_S3_EVENT_UPLOAD_ENDPOINT=http://192.168.1.204:9000 \
-e LANGFUSE_S3_EVENT_UPLOAD_ACCESS_KEY_ID=minioadmin \
-e LANGFUSE_S3_EVENT_UPLOAD_SECRET_ACCESS_KEY=minioadmin \
-p 3001:3000 \
langfuse/langfuse:latest
3.3、postgresql的表

3.4、CLICKHOUSE的表

四、登录界面
http://192.168.1.204:3001/

四、环境参数说明
4.1、PostgreSQL 数据库配置(核心存储)
Langfuse 使用 PostgreSQL 存储结构化数据(如 trace、span、event 等)。
| 变量 |
是否必需 / 默认值 |
说明 |
| DATABASE_URL |
✅ 必需 |
PostgreSQL 连接字符串,格式:postgresql://user:pass@host:port/dbname。<br>也可用 DATABASE_HOST, USERNAME, PASSWORD, NAME, ARGS 拆分配置。 |
| DIRECT_URL |
默认 = DATABASE_URL |
用于数据库迁移(migrations)的连接串。<br>建议在使用连接池(如 PgBouncer)时单独设置,避免迁移失败。 |
| SHADOW_DATABASE_URL |
可选 |
当主数据库用户无 CREATE DATABASE 权限时,需提供一个“影子数据库”用于 Prisma 迁移。<br>云数据库(如 AWS RDS)常需此配置。 |
4.2、ClickHouse 配置(高性能分析引擎)
ClickHouse 用于存储大量事件数据,支持快速查询与聚合分析。
| 变量 |
是否必需 / 默认值 |
说明 |
| CLICKHOUSE_MIGRATION_URL |

最低0.47元/天 解锁文章
692

被折叠的 条评论
为什么被折叠?



