使用spring-ai时遇到的一些问题


当项目pom.xml中使用了一下依赖库时:

 <dependency>
    <groupId>org.springframework.ai</groupId>
    <artifactId>spring-ai-starter-model-transformers</artifactId>
</dependency>

会出现以下几点问题:

问题一:分词器tokenizer.json下载

源码里内嵌的地址 https://raw.githubusercontent.com/spring-projects/spring-ai/main/models/spring-ai-transformers/src/main/resources/onnx/all-MiniLM-L6-v2/tokenizer.json,需要富强上网才行,可使用这个地址代替:https://hf-mirror.com/sentence-transformers/all-MiniLM-L6-v2/tree/main/tokenizer.json。

问题二:model.onnx嵌入式模型下载

源码里是访问的github下载的,但是通过代码去请求下载会出现超时下载失败的问题。可通过浏览器直接下载:
https://github.com/spring-projects/spring-ai/raw/main/models/spring-ai-transformers/src/main/resources/onnx/all-MiniLM-L6-v2/model.onnx
替代的方案还有:https://hf-mirror.com/sentence-transformers/all-MiniLM-L6-v2/tree/main/onnx/model.onnx
在这里插入图片描述
项目里的yml配置如下:
在这里插入图片描述
以上问题对应的源码在这个源码文件里:
在这里插入图片描述

依赖库的下载及指定存放位置

此外在启动项目时:在本地运行分词器和嵌入式模型,还需要额外的库(Deep Java Library):这些文件在启动项目时出现下载超时的问题,而且下载的内容也会自动放到C盘下。也可以提前通过浏览器提前下载好。然后配置一下系统环境变量,启动项目时,会直接去系统环境变量指定的路径下去加载,而不会再去远程下载。
Deep Java Library 的缓存 目录的系统环境变量设置:
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值