- 博客(41)
- 收藏
- 关注
原创 基于translategemma的图片翻译助手
本文介绍了一个基于本地Ollama服务的AI图片翻译工具,能够自动识别并翻译图片中的文本为中文。该系统包含FastAPI后端和HTML前端界面,支持图片上传(PNG/JPG/JPEG)、AI翻译(使用translategemma:27b模型)和实时预览功能。技术栈包括Python+FastAPI后端、HTML5+CSS3+JavaScript前端,以及Ollama模型服务。文章详细说明了环境要求(Python3.8+、Ollama服务)、安装步骤、配置文件修改方法,并提供了前后端核心代码片段。该系统操作简便
2026-03-04 15:30:06
343
原创 open-webui版本更新
本文介绍了open-webui的两种更新方法: 手动更新:分三步操作,先拉取最新镜像,然后停止并移除旧容器,最后用相同配置启动新容器 自动脚本:提供update-open-webui.sh脚本实现一键更新,包含三个步骤的自动化操作,更新完成后会输出访问地址 两种方法都保留了原有数据卷和端口配置(9019),适合Linux/macOS环境使用。脚本版增加了错误处理(|| true)和进度提示,更便于维护。
2025-10-11 16:20:39
834
原创 ollama 单个模型的迁移
Ollama 单个模型迁移方法 适用场景:内网环境下需迁移单个模型(如 deepseek-r1:14b),避免全量迁移耗时问题。 步骤: 导出模型配置 ollama show --modelfile deepseek-r1:14b > ./Modelfile 迁移模型文件 拷贝模型文件(如 sha256-6e9f...dc1e)到内网环境。 修改 Modelfile 中的路径为内网路径: FROM /path/to/sha256-6e9f...dc1e 创建内网模型 ollama create deepse
2025-07-03 10:19:22
762
原创 dify离线环境部署(无网环境)
本文介绍了Dify 0.15.3版本的离线部署流程,重点包含供应商Ollama的配置方法。主要步骤包括:从GitHub下载0.15.3版本源码;修改Docker环境配置并启动服务;打包容器镜像迁移至内网;完成Ollama模型供应商配置。部署过程涉及.env文件修改、容器权限调整及镜像迁移等关键操作,最后提供了遇到问题时的社区支持渠道。该方案实现了Dify在内网环境下的离线部署,并整合了Ollama作为大模型供应商。
2025-06-26 17:37:05
847
1
原创 如何利用 GPT-4o mini 提升开发效率和创新
OpenAI表示,从发布之日起,ChatGPT的免费用户、PLUS用户和微软Team用户都能够使用GPT-4o mini。之后,企业版客户也将获得使用GPT-4o mini的权限。OpenAI 推出的 GPT-4o mini 由于其性价比高的特点,确实为开发者社区带来了许多新的可能性。这款小型模型让更多的开发者能够接触到先进的语言模型技术,不仅降低了成本门槛,也加快了创新的步伐。
2024-08-05 10:23:58
635
原创 bing官方api搜索引擎
微软 Bing 的搜索 API 使得开发者能够将 Bing 的搜索能力集成到自己的应用中,包括对网页、图片、新闻、视频的搜索,以及提供了实体搜索和视觉搜索的功能。这些 API 支持安全、无广告且能够根据地理位置提供相关信息的搜索结果。Bing Web Search API v7 允许用户从全球范围内的数十亿个网页文档中检索信息。
2024-08-02 10:39:21
7497
5
原创 Langchain-Chatchat3.1——搜索引擎bing与DuckDuckGo
langchain chatchat搜索引擎bing和DuckDuckGo
2024-08-01 17:04:45
4787
原创 Langchain-Chatchat3.1版本docker部署流程——知识库问答
langchain-chatchat3.1 docker部署 知识库问答篇
2024-07-18 17:58:14
3534
17
原创 flash_attn安装
如果出现该错误cannot import name ‘is_flash_attn_available’ from ‘transformers.utils’,可以。访问该网站,找到对应torch、python、cuda版本的flash_attn进行下载,并上传到服务器。
2024-04-28 10:25:04
12352
1
原创 paddleocr 在docker环境下部署
第一步 查看cuda的版本nvcc -V,我的是11.2;nvidia-smi 对应的cuda version是11.6,所以采用了registry.baidubce.com/paddlepaddle/paddle:latest-dev-cuda11.6-cudnn8.4-trt8.4-gcc82作为基础镜像。Docker镜像源选择,Dockerfile配置。制作镜像,build。
2024-03-15 16:04:48
4513
4
原创 NVIDIA-SMI has failed带来的一系列问题
记实验室的小红帽服务器重启后,使用nvidia-smi出现以下问题:现记录解决该问题过程中遇到的坑,首先百度到的解决方案就是安装dkms组件(Dynamic Kernel Module Support),利用dkms将未编译到内核之中的Linux驱动程序进行手动编译。但是在使用命令出现了第一个问题RPM-GPG-KEY-rockyofficial 是一个RPM软件包管理系统使用的GPG密钥。RPM(Red Hat Package Manager)是一种在Linux系统中广泛使用的软件包管理工具,用于安装、
2023-06-26 17:05:34
657
原创 Kibana安装教程
运行kibana:kibana-5.6.3-windows-x86\bin的文件目录下,双击kibana.bat启动kibana;若双击没有反应,则进入cmd下,执行kibana.bat文件。解压安装包,修改[kibana-5.6.3-windows-x86\config]文件夹下的kibana.yml文件。访问127.0.0.1:5601。
2023-05-22 17:39:14
206
原创 Kafka——Controller、Rebalance、HW的基础概念
HighWatermark的缩写,取一个partition对应的ISR中最小的LEO(log-end-offset)作为HW,consumer最多只能消费到HW所在的位置。对于leader新写入的消息,consumer不能立刻消费,leader会等待该消息被所有ISR中的replicas同步后更新HW,此时消息才能被consumer消费。这样就保证了如果leader所在的broker失效,该消息仍然可以从新选举的leader中获取。在触发rebalance机制之前,消费者消费哪个分区有。
2022-08-20 21:08:16
209
原创 Java关键字——volatile
由于访问volatile变量时不会执行加锁操作,也就不会执行线程阻塞。所以volatile变量是一种比synchronized关键字更轻量级的同步机制。volatile确保将变量的更新操作通知到其他线程。volatile使用实例。......
2022-08-01 11:46:45
336
原创 JVM——分代收集算法与分区收集算法
根据系统可接受的停顿时间,每次都快速回收若干个小区域,从而减少一次GC所产生的的停顿时间,最后以多次并行累加的方式逐步完成整个内存区域的垃圾回收。划分为连续的大小不同的小区域,每个小区域单独进行内存使用和垃圾回收,这样做的好处是可以根据每个小区域内存的大小灵活使用和释放内存。根据对象的不同类型将内存划分为不同的区域,JVM将堆划分为。,并根据各个年代的特点分别采用不同的GC算法。老年代——标记整理算法。......
2022-07-30 16:42:41
316
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人
RSS订阅