问题:
在使用crewAI开发项目的过程中,memory开启后报错:openai key is fake
经代码核查,其默认使用了openai的embedding模型。
解决方法
经查阅资料,可以参考其本地部署llm的方法。
本地部署模型可以使用xinference框架,其好处在于完全兼容openai的api。
关键代码
openai环境变量设置
#xinference服务api的url
os.environ['OPENAI_API_BASE'] = 'http://localhost:9997/v1'
#xinference要求key只要不为空就行
os.environ['OPENAI_API_KEY']