- 博客(16)
- 收藏
- 关注
原创 Docker+Ollama+RAGFlow本地部署DeepSeek R1并构建本地知识库
本文详细记录了通过Ollama安装DeepSeek R1:7B模型,通过Docker加载Open-WebUI,RAGFlow框架,并以RAGFlow为基础搭建本地知识库,其中embedding模型选择了比较受欢迎的nomic-embed-text。通过对通用大模型融合本地知识库进行推理的亲自体验,形成对于DeepSeek等AI大模型利用方式的新认识。
2025-03-04 16:30:08
1286
原创 “扣子”开发之四:与千帆AppBuilder比较
已决定暂离扣子平台,寻求其他更好的AI开发平台。经过搜索比对,选了千帆AppBuilder来研究。不看不知道,一看吓一跳,怎么这么“像”?全面了解了下,并不值得投身其中。那,还有什么平台可选呢?!
2025-01-14 12:48:06
1067
原创 “扣子”开发之三:反复尝试之后只能决定暂时放弃!
上一篇文章 在简单体验了通过“扣子”平台开发AI应用之后,感觉还是有很多不成熟或者理解不清楚的地方,开发遇到了比较大的障碍。但是我并不想轻易放弃这个新生事物,想着再多花点时间试一试,更深入的学习了解一下,希望能跟它一起成长。但是,单方面的热情终归还是被消耗殆尽,它现在还承载不起我想用它加快AI应用开发的希望!我只能决定暂别这个平台,另寻它途。
2025-01-13 10:45:15
936
原创 “扣子”开发之二:初尝AI应用
初步尝试了在扣子平台进行智能体的开发,也进一步探索了AI应用的开发,第一印象非常方便,但实际着手开发后也发现了很多的不足。智能体的开发过于简单,逻辑偏弱;AI应用的开发则有待完善。作为新生事物的AI开发平台,值得期待,但仍有实际的路程需要经历和磨练。
2025-01-04 22:58:25
1227
原创 “扣子”开发之一:“扣子”初体验
扣子”的英文名叫Coze,这个名字大概同时匹配了其中英文的发音,也同时契合了扣子的目标功能定位。扣子是新一代 AI 应用开发平台。它是字节跳动公司基于火山引擎(也就是字节跳动提供互联网云服务的平台)和豆包大模型而推出的,供用户定制开发各种AI应用的平台。核心特征:第一、扣子是个开发平台;第二、用扣子开发的是AI应用,包括智能体和功能更为全面的AI应用。
2024-12-29 14:28:49
3444
原创 本地部署Qwen2大模型之六:几种AI大模型部署模式的比较
在动手实践本地部署Qwen2大模型的过程中,我遇到了很多的实际问题,花了很多时间和心思来解决。也正是解决这些问题的经历,让我逐渐对AI大模型的部署有了比较清晰的了解,也形成了几种不同部署模式的概念。本文尝试对几种典型的AI大模型部署模式进行对比分析,为后期围绕AI开发应用提供参考。
2024-12-28 00:11:55
1150
原创 本地部署Qwen2大模型之五:vLLM与大语言模型的关系
经过几天的实践探索,对大语言模型(Qwen2)及其部署工具(vLLM)有了比较清晰的了解,这里做个简单的梳理,以作备忘吧。
2024-12-27 01:42:02
970
原创 本地部署Qwen2大模型之三:编译CPU版vLLM
继续探究vLLM方式在本地部署Qwen2大模型的方法,对于未配备GPU的电脑,手动编译并安装CPU版的vLLM。
2024-12-24 03:13:53
4325
原创 本地部署Qwen2大模型之一:Ollama方式部署
字节跳动在2024年12 月 18 日举办了火山引擎 FORCE 原动力大会,会上发布了豆包视觉理解模型和豆包 3D 生成模型,引起了AI业界的一片骚动,吸引了无数AI创业者和终端用户的眼光,我也开始关注起了豆包,并尝试接入大模型,进而在本地部署Qwen2大模型。
2024-12-21 19:17:20
3127
原创 SpringBoot+Lombok序列化异常HttpMessageConversionException处理
在进行SpringBoot项目练习的过程中,项目成功启动,但是从客户端(浏览器)请求数据的时候发生消息转换异常。我的代码中已经采用了lombok的@Data注解,进一步查阅资料,确认是序列化出了问题,默认走的是Jackson的序列化。解决方案有两种,一种是删除convert,另一种调整fastjon converter在HttpMessageConverter列表中的顺序。
2024-02-01 16:05:03
797
1
原创 SpringBoot3+MyBatisPlus+Druid避坑记录
我创建项目时采用了最新的SpringBoot3.2.2版本,与此版本相适应,MyBatis-Plus已经升级为5.5版本(但仍没有解决Mybatis报错的问题),Druid需要用新的SpringBoot3相应的starter。因为刚开始学,踩了很多坑,这里做一个记录备忘,如果有朋友遇到同样的问题,可以参考下,少走些弯路。
2024-01-30 10:51:03
1608
1
原创 我的物联网之梦:赋能万物,连接无限
我有一个梦想,它分为几个层次。首先,我想让万物自己说话,我想对身边的所有物品都一目了然,我可以喊它们,它们可以应答,它们可以发光,可以震动,可以发出声音,甚至可以和人一样说话,告诉我它们是什么、具体在哪里,我有整个空间的立体地图,是真实环境的全真展示,它们就在立体地图里形象地摆放着,我喊它们,它们就动,在立体地图里和现实环境中同时应答,有些还可以执行相关的功能动作。它们可以一直这样,随时准备着,不会有缺电的问题。其次,我想让世界变得透明,可以随时看到世界任何地方的360度场景,可以身临其境地感受当时当
2022-04-29 10:59:53
314
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人