百度千帆平台构建AI APP的基础概念梳理
如果想制作大语言模型(LLM)相关的APP, 将利用百度的千帆平台在国内可能是最便捷的途径,因为百度开发了成熟的工作流,前些年还有些不稳定,现在固定下来了,但是对于刚了解的人还是有些眼花缭乱,在这里总结自己学习的一点心得。
appbuilder平台是入口(使用LLM,构建聊天机器人)
因为我们的目的是制作APP,所以appbuilder是入口,还有一个modelbuilder平台是训练模型用的,和我们暂时没大关系,进去以后按照流程一步一步走,大概率能构建出一个聊天的机器人,默认发布为网页模式,还可以发布到微信小程序模式等,支持openAPI调用,可以用gradio和streamlit调用openAPI构建聊天机器人应用。这时候的应用就仅仅是聊天,文字输入和输出。
关键词:聊天机器人,openAPI,LLM
调用组件,让LLM使用工具
在以上界面中会看到调用组件的选项,选择组件后,构建的APP就支持上传图片和文件,通过组件的功能来识别文字等,来把APP变成一个Agent,即一个可以使用工具的APP,比如一个看图说话的APP,就是通过组件识别图中的内容,然后用LLM对图中的内容进行加工实现的。构建好APP之后,用百度的提供的方式进行发布都是没有问题的,但是如果想外地调用的话openAPI就不灵了,这时候要选择SDK方式在gradio和streamlit等界面进行调用。SDK调用官方示例
比较典型的多模态输入例子(来自官方教程)