上面说了一下大语言模型开发框架的价值,其实就是封装好的sdk,辅助来做大模型开发的.
举些通俗的例子:
1.与外部功能解依赖
比如可以随意更换 LLM 而不用大量重构代码
更换三方工具也同理
2.经常变的部分要在外部维护而不是放在代码里
比如 Prompt 模板
3.各种环境下都适用
比如线程安全
3.方便调试和测试
至少要能感觉到用了比不用方便吧
合法的输入不会引发框架内部的报错
划重点:选对了框架,事半功倍;反之,事倍功半。
什么是 SDK? https://aws.amazon.com/cn/what-is/sdk/
SDK 和 API 的区别是什么? https://aws.amazon.com/cn/compare/the-difference-between-sdk-and-api/
关于什么是SDK 以及 SDK 和API的区别可以看上面.
#### 🌰 举个例子:使用 SDK,4 行代码实现一个简易的 RAG 系统
使用llamaindex框架,实现一个简单的RAG就非常的简单了.