文章目录
在了解了ChatGPT的文本补全、function calling、embedding、内容审查等基础功能之后我们终于可以着手了解LLM应用程序的构建逻辑。
所以接下来详细介绍
- LLM驱动型应用程序的构建过程
- 以及如何将这些模型集成到自己的应用程序开发项目中时需要考虑的要点。
一. 首先注意的两个方面
1. 管理API密钥
要开发基于LLM的应用程序,核心是将LLM与OpenAI API集成。这需要开发人员仔细管理API密钥,考虑数据安全和数据隐私,并降低集成LLM的服务受特定攻击的风险。
接下来,我们说明如何管理用于LLM驱动型应用程序开发的API密钥。对于API密钥,你有两个选择。
- 让应用程序的用户自己提供API密钥。
- 在应用程序中使用你自己的API密钥。
两个选择各有利弊。在这两种情况下,都必须将API密钥视为敏感数据。让我们仔细看看每个选择。
1.1. 用户提供API密钥
如果你决定将应用程序设计为使用用户的API密钥调用OpenAI服务,那么好消息是,你不会面临被OpenAI收取意外费用的风险。不利之处在于,你必须在设计应用程序时采取预防措施
,以确保用户不会承担任何风险。
在这方面,你有两个选择。
- 只有在必要时才要求用户提供API密钥,并且永远
不要通过远程服务器存储或使用它
。在这种情况下,API密钥将永远不会离开用户,应用程序将从在用户设备上执行的代码中调用API。- 在后端管理数据库并将API密钥安全地
存储在数据库中
。