- 博客(4)
- 收藏
- 关注
原创 本地部署LLM踩坑日记(二)——Ollama更新之后挂载gguf模型的坑
Ollama更新后,需要使用正确的modelfile才能正常创建和使用gguf格式的模型文件,如果在回答中出现【乱码】【拒绝回答】【中途停止】【答非所问】【非必要补全】等问题,可以尝试使用本文方法。
2025-03-12 23:02:52
1003
原创 本地部署LLM踩坑日记(一)——N卡和Ubuntu系统那些事
以上就是N卡平台新装Ubuntu之后安装驱动需要注意的点,也确实比较容易踩坑,但爬出来之后还是很方便的,下次写一下安装Anaconda或者部署运行模型架构方面的内容。
2025-02-22 23:30:49
661
原创 基于轻管理Vlan交换机实现IPTV+宽带单线复用的家庭组网(附交换机设置)
随着设备增多,对网络要求提高,但旧屋改造布线困难,尝试过多种方案,最终通过Vlan交换机组网实现了需求,达到了比较理想的效果,且没有走明线,本文仅以图片形式直观展示。
2025-02-11 02:28:53
457
原创 手把手教你使用Dify on wechat搭建基于Gewechat架构的聊天机器人
随着AI技术不断下沉和大语言模型(LLM)的发展,享受AI带来便利的门槛越来越低,大厂、大模型团队的网页版和移动端APP都有简洁友好的UI界面。但平时日常使用中,微信无疑是使用频率最高的,在使用微信沟通时,如果需要使用LLM来辅助,就需要在不同APP之间切换多次,并不够有效率,如果能在微信中使用LLM,就能大大提高效率。在GIthub上由hanfangyuan4396大佬发布的Dify on wechat项目可以很好的实现这个效果,通过对接微信与LLM,就可以实现AI自动回复等功能。
2025-01-29 19:55:31
6284
9
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人