如何用 OpenDataSky API实现AI大模型API调用?

如何在AnythingLLM 中使用 OpenDataSky API进行AI大模型API调用:

引言

DATASKY 人工智能开放平台是一个集对话与 API 调用于一体的网站,提供国内外几十种大模型的 API 接口。通过该平台,开发者可以方便地调用各种文本图片视频模型,提升效率。本文将介绍如何在 Cline(Claude dev) 中使用 OpenDataSky API 进行大模型API调用。

前排提示,文末有大模型AGI-优快云独家资料包哦!

本指南将引导您完成AnythingLLM中使用OpenDataSky API调用文本、嵌入以及其他模型。

安装 AnythingLLM 客户端

根据AnythingLLM的安装指南,您可以下载并安装最新版本的AnythingLLM。

配置

本指南以 AnythinLLM Desktop for Windows 为例。

  • 首次打开客户端时在 AnythingLLM 引导页点击“Get Started”进入下一步。
  • 进入 LLM Preference 页面配置您需要的文本模型。
  • 选择模型提供商为“Generic OpenAl”。
  • Base URL中输入 http://server.opendatasky.com/v1/api/open-ai/ds
  • 输入 API Key,为您在 OpenDataSky 注册账号的 API Key,进入 API Key 页面获取。
  • 在 Chat Model Name 一栏输入您需要使用的文本模型,支持的模型请参考 模型页面
  • 在 Token context window 一栏中输入模型的上下文长度,上下文长度请参考相应的模型文档,如不确定您可以输入 128000 (128k)。
  • 在 Max Tokens 一栏输入模型的最大输出长度,最大输出长度请参考相应的模型文档,如不确定您可以输入 1024
  • 大模型配置完成后,根据后续指引即可开始使用 AnythingLLM。
修改文本模型

您同样可以在设置页面的“LLM 首选项”中修改文本模型配置,包括模型名称、上下文长度、最大输出长度等。

修改嵌入模型

AnythingLLM 提供了本地运行的嵌入模型,如果您有更高的性能需求,您也可以选择使用 OpenDataSky 提供的嵌入模型。

  • 进入设置页面的“Embedder首选顶”,选择嵌入引擎提供商为“Generic OpenAl”。
  • Base URL中输入 http://server.opendatasky.com/v1/api/open-ai/ds
  • Embedding Model 一栏输入您需要使用的嵌入模型,支持的模型请参考 模型页面
  • Max embedding chunk length 输入合适的值,如 8192
  • API Key 一栏输入您账号的 API Key

按照上述步骤配置后,您便可以开始在 AnythingLLM 中使用 OpenDataSky API 进行模型调用。

OpenDataSky友情链接:opendatasky.com


优快云独家福利

最后,感谢每一个认真阅读我文章的人,礼尚往来总是要有的,下面资料虽然不是什么很值钱的东西,如果你用得到的话可以直接拿走:

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值