(RAG系列) FastGPT通过API调用工作流问答

FastGPT通过API调用工作流问答

版本

fastgpt v4.8.10

使用说明

注意两个参数

  • stream 是否流式输出

  • detail 是否体现工作流过程细节

代码模板

import requests
import pandas as pd

def get_completion(question):
    # Define the URL and headers
    url = "http://xxxx:3000/api/v1/chat/completions"
    headers = {
        "Authorization": "Bearer ",
        "Content-Type": "application/json"
    }

  
    data = {
        "chatId": "lizhihiui",
        "stream": False,
        "detail": False,
        "responseChatItemId": "my_responseChatItemId",
        "variables": {
            "uid": "asdfadsfasfd2323",
            "name": "张三"
        },
        "messages": [
            {
                "role": "user",
                "content": question
            }
        ]
    }

    response = requests.post(url, json=data, headers=headers)

    api_response = response.json()
    if 'code' in api_response and api_response['code'] == 500:
        return "报错"
    content = api_response["choices"][0]["message"]["content"]

    return content

print(get_completion("你是谁"))
### fastGpt中的AI工作流案例 在探讨fastGpt中的AI工作流之前,了解基于检索增强生成(RAG)的工作流程有助于理解如何构建高效的人工智能应用程序[^2]。虽然具体提及fastGpt的资料有限,但从相似框架如AutoGen和RAG的应用可以推断出一些通用模式。 #### 使用RAG架构实现的知识查询系统 在一个典型的知识查询场景中,假设有一个名为`KnowledgeBaseQuerySystem`的应用程序,该程序旨在提供快速而精确的信息检索服务。此系统的运作机制如下: 1. 用户输入一个问题或请求。 2. 系统利用预训练的语言模型分析用户的意图并提取关键词。 3. 基于这些关键词,在后台执行文档检索操作,找到最相关的片段作为上下文支持材料。 4. 将获取到的内容传递给另一个更强大的语言模型用于最终响应生成。 5. 输出经过优化后的答案返回给用户。 ```python from transformers import RagTokenizer, RagRetriever, RagSequenceForGeneration tokenizer = RagTokenizer.from_pretrained("facebook/rag-token-nq") retriever = RagRetriever.from_pretrained( "facebook/dpr-question_encoder-single-nq-base", index_name="exact", use_dummy_dataset=True, ) model = RagSequenceForGeneration.from_pretrained("facebook/rag-sequence-nq", retriever=retriever) def knowledge_base_query(question): input_ids = tokenizer.question_encoder(question, return_tensors="pt")["input_ids"] generated = model.generate(input_ids) answer = tokenizer.batch_decode(generated, skip_special_tokens=True)[0] return answer ``` 上述代码展示了如何创建一个简单的问答系统,它能够接收自然语言形式的问题并通过调用外部API或者本地数据库来查找相关信息,最后给出合适的答复。 对于特定平台上的实施细节,则需参照官方文档或其他社区贡献者分享的经验贴以获得更加详尽的技术指导。值得注意的是,不同版本之间可能存在差异,因此建议始终查阅最新的资源和支持渠道。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

是小白_鸭

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值