LTM框架Letta

最新推荐文章于 2025-11-23 19:13:18 发布

原创最新推荐文章于 2025-11-23 19:13:18 发布 · 523 阅读

4 ·

CC 4.0 BY-SA版权

文章标签：

#人工智能

AI 专栏收录该内容

86 篇文章

订阅专栏

Letta 是一个开源框架，用于构建具有高级推理能力和透明长期记忆的有状态代理。Letta 框架是白盒和模型不可知论的。

使用pip安装letta

pip install -U letta

设置环境变量

配置 LLM 和嵌入模型的环境变量：

set OPENAI_API_KEY=sk-...
set LETTA_LLM_MODEL=gpt-4
set LETTA_EMBEDDING_MODEL=text-embedding-3-small

默认情况下，Letta 会使用 SQLite 作为数据库。如果你想使用 PostgreSQL，需要先设置LETTA_PG_URI环境变量：

set LETTA_PG_URI="postgresql://user:password@localhost:5432/letta"

对于 Ollama

set OLLAMA_BASE_URL=http://localhost:11434

运行 Letta 服务器

使用以下命令启动 Letta API 服务器

letta server

访问 Letta ADE（代理开发环境）

Letta ADE 是一个基于Web的图形用户界面，用于创建、部署、交互和观察 Letta 代理。可以访问https://app.letta.com，将其连接到本地或远程的 Letta 服务器。

如果连接本地服务器，只要 Letta 服务器正在运行，你就会在左侧面板中看到 “Local server” 选项。
如果连接外部自托管服务器，则需要单击 “添加远程服务器”，输入服务器名称、IP 地址和服务器密码。

Letta API

接口文档地址：https://docs.letta.com/

project_id：在Project settings复制ID

token：在API keys复制API Key

1、列出所有代理

CURL

curl https://api.letta.com/v1/agents/ \
     -H "Authorization: Bearer <token>"

Python

from letta_client import Letta

client = Letta(
    base_url="http://localhost:8283",
    project="YOUR_PROJECT",
    token="YOUR_TOKEN",
)
client.agents.list()

2、创建代理

CURL

curl -X POST https://api.letta.com/v1/agents/ \
     -H "Authorization: Bearer <token>" \
     -H "Content-Type: application/json" \
     -d '{}'

Python

from letta_client import Letta

client = Letta(
    base_url="http://localhost:8283",
    project="YOUR_PROJECT",
    token="YOUR_TOKEN",
)
agent = client.agents.create(
    memory_blocks=[
        {
          "label": "human",
          "value": "The human's name is Bob the Builder."
        },
        {
          "label": "persona",
          "value": "My name is Sam, the all-knowing sentient AI."
        }
    ],
    model="ollama/qwen3:4b",
    context_window_limit=16000,
    embedding="letta/letta-free"
)

3、向代理发送消息

CURL

curl -X POST https://api.letta.com/v1/agents/agent_id/messages \
     -H "Authorization: Bearer <token>" \
     -H "Content-Type: application/json" \
     -d '{
  "messages": [
    {
      "role": "user",
      "content": [
        {}
      ]
    }
  ]
}'

Python

from letta_client import Letta, MessageCreate, TextContent

client = Letta(
    base_url="http://localhost:8283",
    project="YOUR_PROJECT",
    token="YOUR_TOKEN",
)
client.agents.messages.create(
    agent_id="agent_id",
    messages=[
        MessageCreate(
            role="user",
            content=[
                TextContent(
                    text="text",
                )
            ],
        )
    ],
)