Langchain如何自动执行python代码 | AI应用开发

该文章已生成可运行项目,

在当今的数据科学和人工智能领域,自动化代码生成与执行已成为提升效率与灵活性的重要手段。本文将详细介绍如何使用LangChain中的PythonREPL功能,实现大型语言模型(LLM)生成代码,并自动执行这些代码。通过这一流程,我们能够让大模型生成代码,然后通过代码执行来获取大语言模型通过文本生成本身不能很好完成的任务,特别是一些计算任务。

一、环境准备

首先,确保你的开发环境中已安装LangChain及其相关依赖。若尚未安装,可通过pip轻松完成:

pip install langchain

此外,还需配置好Python解释器及所需库(如datetime等),以确保PythonREPL能够顺利运行。

二、创建PythonREPL实例

在LangChain中,PythonREPL作为一个工具,允许我们执行任意Python代码。以下代码展示了如何创建PythonREPL实例:

from langchain_experimental.utilities import PythonREPL

# 初始化PythonREPL实例
python_repl = PythonREPL()

# 指定需要用到的全局的库
python_repl.globals = {"datetime": datetime}

三、利用大型语言模型生成代码

接下来,我们将利用大型语言模型(LLM)生成Python代码。此处假设你已有一个训练好的LLM模型,并可通过API进行访问。以下是一个利用LLM生成代码的示例:

这里使用讯飞星火的api接口来做演示


from openai import OpenAI
from langchain.llms.base import LLM
from typing import Any, List, Optional
from langchain.callbacks.manager import CallbackManagerForLLMRun
class SparkLLM(LLM):
    llm_client: Any = None

    def __init__(self):
        super().__init__()
        self.llm_client = OpenAI(
            api_key="xxx", # APIPassword
            base_url = 'https://spark-api-open.xf-yun.com/v1' # 指向讯飞星火的请求地址
            )
    def _call(self, prompt : str, stop: Optional[List[str]] = None,
                run_manager: Optional[CallbackManagerForLLMRun] = None,
                **kwargs: Any):
        response = self.llm_client.chat.completions.create(
                model='4.0Ultra', # 指定请求的版本
                messages = [
                    {"role": "system", "content": "你是一个智能AI助手,擅长编写合格的代码"},
                    {"role": "user", "content": prompt}
                ],
                temperature=0.7,  # 控制生成文本的随机性。越低越确定,越高越随机。
                top_p=0.9,       # 核采样 (Nucleus sampling)。top_p=0.9表示只考虑概率质量前90%的词。
                max_tokens=4096,  # 最大生成的token数量。
                stream=False      # 开启流式输出
            )
        return response.choices[0].message.content
    @property
    def _llm_type(self) -> str:
        return "sparkllm"

from replicate import Replicate  # 假设使用Replicate来访问LLM模型



# 实例化LLM模型(此处以replicate库为例,实际使用时需替换为你的LLM模型)
llm = SparkLLM()

# 给LLM模型一个提示,生成我们需要的Python代码
prompt = """
请编写一个Python函数,该函数接受一个整数n作为输入,
并返回从1到n(包含n)的所有整数的和。
"""
generated_code = llm(prompt)

print(generated_code)

生成的代码可能如下所示:

def sum_integers(n):
    total = 0
    for i in range(1, n + 1):
        total += i
    return total

四、在PythonREPL中执行生成的代码

现在,我们已在PythonREPL中执行上述生成的代码。利用python_repl.run方法,可轻松实现这一点:

# 执行生成的代码,并捕获输出
execution_result = python_repl.run(generated_code)
print("执行结果:")
print(execution_result)

但请注意,由于generated_code中未包含直接调用sum_integers函数的语句,因此execution_result可能无具体输出。为验证函数功能,我们需添加调用语句,如:

code_with_call = f"{generated_code}\nprint(sum_integers(10))"
execution_result = python_repl.run(code_with_call)
print("执行结果:")
print(execution_result)

此时,execution_result将显示函数sum_integers(10)的返回值,即55。

在来一写使用langchain的例子:

    from langchain_core.prompts import PromptTemplate
    from langchain_core.output_parsers import StrOutputParser

    template = """Write some python code to solve the user's problem. 

    Return only python code in Markdown format, e.g.:

    \```python
    ....
    \```
    problem:{input}
    """
    prompt_template = PromptTemplate.from_template(template)

    def _sanitize_output(text: str):
        _, after = text.split("```python")

        print(after.split("```")[0])
        return after.split("```")[0]


    pythonrepl = PythonREPL()
    pythonrepl.globals = {"datetime": datetime}

    model = SparkLLM()
    chain = prompt_template | model | StrOutputParser() | _sanitize_output | pythonrepl.run

    result = chain.invoke({"input": "whats 2 plus 2"})
    print(result)

    result = chain.invoke({"input": "what time now?"})
    print(result)

五、安全性与效率考量

在使用PythonREPL执行动态生成的代码时,安全性与效率至关重要。为确保代码安全,建议在沙箱环境中执行,或对代码进行预先审查。同时,对于大型代码块或复杂计算,需关注执行效率,并适时优化。

六、结论

通过LangChain的PythonREPL功能,我们实现了大型语言模型生成代码的自动化执行。这一流程不仅提升了代码生成的灵活性,还简化了代码验证与优化过程。未来,随着技术的不断发展,相信这一流程将变得更加高效与智能。


本文详细介绍了如何使用LangChain的PythonREPL功能,实现大型语言模型生成代码的自动化执行。希望这一流程能为你的数据科学与人工智能项目带来便利与启发。

如何学习AI大模型?

作为一名热心肠的互联网老兵,我决定把宝贵的AI知识分享给大家。 至于能学习到多少就看你的学习毅力和能力了 。我已将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

这份完整版的大模型 AI 学习资料已经上传优快云,朋友们如果需要可以微信扫描下方优快云官方认证二维码免费领取【保证100%免费

一、全套AGI大模型学习路线

AI大模型时代的学习之旅:从基础到前沿,掌握人工智能的核心技能!

img

二、640套AI大模型报告合集

这套包含640份报告的合集,涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师,还是对AI大模型感兴趣的爱好者,这套报告合集都将为您提供宝贵的信息和启示。

img

三、AI大模型经典PDF籍

随着人工智能技术的飞速发展,AI大模型已经成为了当今科技领域的一大热点。这些大型预训练模型,如GPT-3、BERT、XLNet等,以其强大的语言理解和生成能力,正在改变我们对人工智能的认识。 那以下这些PDF籍就是非常不错的学习资源。

img

四、AI大模型商业化落地方案

img

作为普通人,入局大模型时代需要持续学习和实践,不断提高自己的技能和认知水平,同时也需要有责任感和伦理意识,为人工智能的健康发展贡献力量。

本文章已经生成可运行项目
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值