吴恩达开源大模型套件aisuite:一个接口,可调用11个模型平台

刚刚,吴恩达宣布,推出新的开源大模型套件 aisuite,不到半天就斩获了1200+星标。

在这里插入图片描述

aisuite 的核心功能是集成了多达11个知名大模型平台,并提供了一个统一的接口,使不同模型的调用变得极为简单。

何构建这个项目?

吴恩达表示构建应用时,发现与多个提供商集成非常麻烦。

aisuite 正是为了解决这个问题而诞生的,只需修改一个字符串(如 openai:gpt-4o、anthropic:claude-3-5-sonnet-20241022、ollama:llama3.1:8b 等),开发者便可轻松切换模型,不再需要在纷繁复杂的API中苦苦摸索。

在这里插入图片描述

项目地址:https://github.com/andrewyng/aisuite

统一接口设计,支持十余家模型平台

目前,aisuite 支持包括 OpenAI、Anthropic 在内的 11 个模型平台,实际上还可以通过 HuggingFace 等平台进一步拓展使用模型的范围。

在这里插入图片描述

搭配 Streamlit 等工具,还能用 aisuite 构建的简单聊天UI界面。

Streamlit 是一个用于机器学习、数据可视化的 Python 框架,它能几行代码就构建出一个精美的在线 app 应用。
在这里插入图片描述https://streamlit.io/

在这里插入图片描述

为了确保稳定性,aisuite 使用 HTTP 端点或 SDK 来与提供商进行调用。

安装简便

aisuite 的安装过程也被设计得十分简便,开发者只需准备Python环境和所需的API密钥,便可通过简单的命令安装框架。

首先需要通过 pip 安装 aisuite 框架,模型支持库可以在这一步进行选装。

pip install aisuite

pip install ‘aisuite[★]’

其中★处填入想安装的支持库名称,如带 Anthropic 支持的安装方式:pip install 'aisuite [anthropic]',或者填 all 安装所有库(外侧方括号和单引号不可省略),如pip install 'aisuite [all]'

此外还需要有对应模型的API密钥,可以设置为环境变量,也可以作为配置传递给aisuite中的构造函数。

例如,使用 aisuite 生成来自 GPT-4o 和 Claude-3-5-Sonnet 的聊天补全响应。

先设置 API 密钥:

export OPENAI_API_KEY="your-openai-api-key"
export ANTHROPIC_API_KEY="your-anthropic-api-key"

使用 Python 客户端:

import aisuite as ai
client = ai.Client()

models = ["openai:gpt-4o", "anthropic:claude-3-5-sonnet-20240620"]

messages = [
    {"role": "system", "content": "Respond in Pirate English."},
    {"role": "user", "content": "Tell me a joke."},
]

for model in models:
    response = client.chat.completions.create(
        model=model,
        messages=messages,
        temperature=0.75
    )
    print(response.choices[0].message.content)

aisuite 目前主要关注于增强聊天功能,其他应用案例体系正逐步扩展。

根据开发团队的计划,未来将会增加更多的功能模块,例如函数调用等,这将进一步丰富 aisuite 的实用性。

在这里插入图片描述
欢迎各位关注我的个人微信公众号:HsuDan,我将分享更多自己的学习心得、避坑总结、面试经验、AI最新技术资讯。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值