- 博客(3)
- 资源 (1)
- 收藏
- 关注
原创 langchain4j初使用
最近公司的AI项目有个新的需求:当向大模型提问时,大模型可能无法回答这个问题,领导感觉体验不好,打算引入搜索的功能,即在大模型回答不了问题的情况下,通过一些搜索引擎提供的api去搜索相关的答案返回给客户。目前比较流行的框架是langchain, 由于我们公司在调用模型时是利用大模型提供的rest api相关的文档通过Java的Httpclient去调用的,因此考虑引入python不太合适。这时,需要通过一些搜索引擎公司如百度、google等提供的搜索接口,去搜索互联网上的内容返回给客户,提高用户体验。
2024-10-25 17:56:45
1366
原创 SpringAI学习一之项目搭建
使用工具ideajdk版本 17通过idea创建springboot项目:添加依赖:指定spring-ai的版本:pom.xml指定仓库:配置api-key和base-url:applicaiton.yml代码编写这样就可以通过传入参数调用相关的接口和open AI会话了。提问:(通过swagger来测试)回答:
2024-09-28 16:57:40
268
1
原创 Too many open files
公司新项目做toc的大模型,运行一段时间突然宕机,从项目日志中排查发现频繁出现 java.io.IOException: Too many open files的异常。从同事处得知目前公司的注册用户在4万左右,未注册用户接近9万左右,应该是最近用户数增多请求引起的。目前服务配置是16G 8核,Java项目是单机的Springboot,分配的内存是3G。
2024-09-26 17:07:29
431
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人