AIGC：从‘金鱼记忆‘到‘过目不忘‘，实例解密大模型是如何记住对话的上下文的？

原创

已于 2024-10-18 22:17:25 修改 · 938 阅读

9 ·

CC 4.0 BY-SA版权

文章标签：

#AIGC #flask #python

于 2024-10-18 22:13:09 首次发布

大语言模型(LLM)在对话中表现出"记忆"能力,似乎能够记住之前的对话内容。但实际上,这种"记忆"是如何实现的呢?本文将通过三个部分来探讨这个问题。

1. 无记忆的大模型

首先,让我们看一个简单的程序,展示大模型在默认情况下是没有任何记忆的:

import os
from dotenv import load_dotenv
from langchain_openai import AzureChatOpenAI
from langchain_core.messages import HumanMessage

# 加载环境变量和设置模型
load_dotenv()
model = AzureChatOpenAI(
    azure_endpoint=os.getenv("AZURE_OPENAI_ENDPOINT"),
    azure_deployment=os.getenv("AZURE_OPENAI_DEPLOYMENT_NAME"),
    openai_api_version=os.getenv("AZURE_OPENAI_API_VERSION"),
    api_key=os.getenv("AZURE_OPENAI_API_KEY"),
)

# 第一次对话
message = HumanMessage(content="I am Bob")
response = model.invoke([message])