- 博客(33)
- 收藏
- 关注
原创 大模型部署框架对比-LM Studio VS Ollama
5 本地化运行:该应用支持在本地运行大语言模型,避免了将数据发送到远程服务器的需要,这对于注重数据隐私和安全的用户来说是一个重要的优势。总的来说,LM Studio 为普通用户提供了便捷的途径来探索和使用大型语言模型,无需复杂的环境配置或编程知识,即可在本地与高级 AI 模型进行交互。这些模块协同工作,实现了高效的推理和内存管理。2 简单直观的操作流程:用户只需选择喜欢的模型,点击下载,等待下载完成后,通过 LM Studio 的对话界面加载本地模型,就可以开始与 AI 进行对话。
2025-06-05 10:54:57
780
原创 langchain框架-对比分析chain的三种实现方式
方式一和方式二主要适用于简单的 RAG 链路,用户输入一个字符串形式的问题。方式二更加简洁。方式三提供了更高的灵活性和扩展性,可以处理更复杂的输入结构,适用于需要从多个字段中提取信息的场景。通过对比可以看出,三种方式各有优劣,选择哪种方式取决于具体的应用需求和输入数据的复杂性。
2025-05-29 17:13:57
290
原创 代码工程之执行时间测试-time模块和 timeit 模块
特性time模块timeit模块设计目标简单时间差计算高精度性能测试准确性低(受系统干扰)高(多次运行、隔离干扰)灵活性低(无环境隔离、无重复测试)高(支持 setup、repeat、Timer 类)适用场景调试、快速测量性能优化、算法比较、多线程测试推荐使用无需高精度时需要精确测量时通过合理选择,开发者可根据需求平衡精度与效率。
2025-05-29 16:21:20
793
原创 智能体通信协议之A2A和ANP对比分析
A2A协议是企业级智能体协作标准,基于HTTP/JSON-RPC等技术实现智能体间的任务分配与状态同步,适合企业内部系统集成。其核心是通过Agent Card元数据实现能力发现,支持同步/异步通信和全生命周期任务管理,但缺乏共享知识库和复杂推理能力。与面向开放互联网的ANP协议相比,A2A在企业认证、集中式协作方面更具优势,而ANP侧重去中心化身份认证和跨平台协作。选择依据主要取决于应用场景(内部/开放)、身份认证需求(企业级/DID)和扩展性要求,典型如订单处理选A2A,跨平台AI助手选ANP。两者形成互
2025-05-28 14:02:04
639
原创 项目代码工程优化之concurrent.futures异步编程(二)
是模块中用于实现多进程并发执行任务的类。它通过创建和管理一个进程池,将工作负载分配给多个进程,从而提高 CPU 密集型任务的执行效率。通过submitmap等方法,可以方便地提交任务、等待任务完成和处理任务结果。同时,提供了异常处理和回调机制,增强了程序的健壮性和灵活性。
2025-05-28 11:46:52
390
原创 项目代码工程优化之concurrent.futures异步编程(一)
模块提供了一个高级接口,用于异步执行函数或方法,主要通过和两种执行器实现。通过submit方法可以提交任务,通过map方法可以并行处理列表中的每个元素。Future对象提供了对异步任务的状态和结果的访问,包括done()running()cancel()result()等方法,以及用于注册回调函数。通过这些功能,可以方便地实现多线程和多进程编程,提高程序的执行效率和响应速度。
2025-05-28 11:40:40
336
原创 LangGraph框架中针对MCP协议的变更-20250510
工具生态扩展:通过标准化接口接入多源工具,减少定制化开发。异步与实时性:优化异步通信机制,支持高并发场景。复杂任务分解:结合ReAct算法,实现多工具协同的自动化流程。未来,随着MCP生态的成熟,LangGraph或进一步整合服务发现、权限管理等企业级功能,成为智能体开发的核心框架。
2025-05-11 22:04:39
951
原创 开发环境配置——os.getenv 和 load_dotenv 的使用方法
适用于任何需要读取环境变量的场景,包括生产环境(如从 Docker/Kubernetes 环境变量读取配置)。适用于开发环境,通过文件管理敏感配置(如 API 密钥、数据库密码),避免硬编码。文件中的键值对加载到 Python 进程的环境变量中,支持从文件动态注入配置。模块提供的方法,用于读取操作系统环境变量。仅用于读取已存在的环境变量(无论是系统变量还是。文件加载环境变量到当前进程。),通过加载不同文件切换环境。若变量不存在,可返回默认值(文件中的变量,需先通过。将变量加载到环境变量中。
2025-03-14 10:29:45
1091
原创 LangChain-Core、LangChain-Community、LangChain-Experimental核心组件详解与示例
的模块化仓库,涵盖大模型服务(如通义千问)、向量数据库(如Pinecone)、工具接口(如Google Search API)等,由社区维护并保持可选依赖。开发者应根据需求合理选择模块:核心业务逻辑使用Core,快速接入外部服务使用Community,前沿技术预研使用Experimental。(如LCEL表达式语言),是构建语言模型应用的基石。其设计目标是保持轻量级依赖,同时通过标准化的接口实现跨模型和工具的兼容性。,例如需要高权限访问的代理、未经验证的算法或前沿技术(如新型推理策略)。
2025-03-13 11:44:22
2020
原创 langchain组件概述
降低了依赖冲突,增强了灵活性。开发者可通过LCEL快速构建生产级应用,结合LangSmith实现全生命周期管理。其核心价值在于标准化接口、链式组合和扩展性,适用于智能对话、数据分析和RAG(检索增强生成)等场景。最新版LangChain通过模块化设计(如拆分为。
2025-03-13 11:40:18
1598
原创 网络请求签名系统的作用与原理
签名系统是网络请求的“安全卫士”,通过AK/SK和Sign的组合,解决了身份验证、防篡改、防重放三大问题。AK用于“你是谁”,SK用于“证明你是你”,Sign是“证明过程”的结果。实际开发中,只需按照接口文档的规则生成Sign即可,加密算法由服务端实现。
2025-03-13 09:39:47
495
原创 【fronm X】Manus初识-20250306
Manus AI 生成排名建议,将候选人分为不同等级(例如:高级候选人、具有基本强化学习经验的候选人、无强化学习经验的候选人),并提供候选人资料和评估标准等支持材料。Manus AI 拥有自己的知识和记忆,可以从用户的反馈中学习,并在处理类似任务时应用学到的知识,提高效率和准确性。Manus AI 模拟人类的工作方式,例如,它可以解压缩文件、浏览网页、阅读文档,并从中提取重要信息。Manus AI 被视为人机协作的新范式,旨在扩展人类的能力,放大影响力,并将人类的愿景变为现实。官网展示了各种具体的用例,
2025-03-06 14:03:10
327
原创 Jenkins与k8s的关系
两者结合后,Jenkins 负责按流程做菜(构建、测试),K8s 负责高效调度资源(部署、扩缩容)。场景:如果突然有 100 道菜要做(高并发任务),Jenkins 可以临时借用 K8s 的容器资源(灶台),任务完成后自动释放。
2025-02-26 19:19:46
620
原创 k8s技术概览
YAML 文件:类似乐高的组装说明书,告诉 k8s 需要哪些组件(如 3 个前端实例、1 个数据库)。CI 完成后,CD 工具(如 Argo CD)修改 k8s 的 YAML 文件,指向新镜像版本。镜像拉取:kubelet 调用 Docker 接口从仓库(如 Docker Hub)下载镜像。YAML 文件是任务指令,Docker提供标准化工具,CI/CD是流水线工人。比喻:像快递调度员,根据服务器负载、位置等,决定把容器放在哪台机器。容器启停:通过 Docker 启动容器,并绑定网络、存储等资源。
2025-02-26 11:21:15
550
原创 Kubernetes(k8s)与 Docker 的协同流程
Dockerfile:写一份“快递包装说明书”,比如“用 Python 3.9 环境,安装依赖库,复制代码文件”。构建镜像:运行 docker build,Docker 会根据说明书打包成一个“快递盒”(容器镜像)。Pod:最小的调度单位,像“运输箱”,一个 Pod 可包含多个容器(比如网站容器+日志收集容器)。上传仓库:将镜像上传到“云仓库”(如 Docker Hub),就像把快递盒存到快递公司的总仓库。创建容器:k8s 调用 Docker 接口,在服务器上启动容器(拆快递盒,取出商品运行)。
2025-02-26 10:40:25
329
原创 k8s概念理解&它与docker的关系
当你在 k8s 中部署一个程序时,它会自动从镜像仓库(如 Docker Hub)拉取镜像,并在集群中启动容器。如果把软件部署比作物流运输,Docker 是集装箱(标准化包装货物),而 k8s 是物流公司的智能调度中心。Docker 把程序及其依赖环境打包成轻量化的“集装箱”(容器镜像),确保开发、测试、生产环境一致。比如,开发人员将 Java 程序打包成镜像,测试人员直接运行镜像,无需担心环境差异。k8s 检测到新镜像后,自动替换旧容器,并逐步更新服务器上的程序(滚动更新)。
2025-02-26 10:10:05
278
原创 Spring Boot框架与云端部署的关系
例如,通过 Spring Boot 的spring-boot-starter-actuator模块,可以监控云端应用的运行状态(类似用手机查看家电耗电量);Spring Boot 应用可以轻松打包成 Docker 镜像(类似把家电标准化装箱),部署到 Kubernetes 集群,实现弹性扩容和故障恢复,特别适合高并发的云端场景。3、部署阶段:用mvn package命令将项目打包成 JAR 文件,通过 SSH 上传到云服务器,一行命令java -jar app.jar 即可启动服务。2、与云服务无缝整合。
2025-02-26 09:58:09
238
原创 快速理解后台部署框架Spring Boot
你不需要自己下载主板驱动、安装操作系统,只需要选择需要的配件(比如显卡型号),就能快速拼出一台能用的电脑。传统 Spring 就像买家电要自己组装电路板,而 Spring Boot 就像智能家电——插电即用。Spring Boot 的「火锅全家桶」(如spring-boot-starter-web)直接打包了 Web 开发所需的全部材料,避免漏买调料。新手村任务:先用 Spring Boot 搭一个带数据库的博客系统(就像用乐高搭房子)高级挑战:整合 Flink 分析实时访问数据(用智能系统分析监控画面)
2025-02-26 09:37:13
288
原创 openwebui命令
docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main
2025-02-12 19:05:58
127
原创 React和Next.js简介(TBD..)
React是一个用于构建用户界面的JavaScript库。你可以把它想象成一种“乐高积木”,你可以用它来搭建各种复杂的网页组件。React的核心优势在于它的组件化架构,这使得开发者可以轻松地创建可重用的UI组件,从而提高开发效率和代码的可维护性。举个简单的例子,假设你正在开发一个待办事项列表应用。你可以用React来创建一个“TodoItem”组件,这个组件负责渲染每一个待办事项。然后,你可以通过组合多个“TodoItem”组件来展示整个待办事项列表。这种方式不仅清晰明了,而且便于后续的维护和扩展。
2025-01-14 11:12:53
259
原创 概念辅助理解prompt设计-2025013
此外,我比较关注它与java语言之间的区别(尤其是在应用场景来说)。这部分的内容,也希望你讲清楚。用简单易懂的方式来解释概念,充分解释,让一个大一新生水平的非专业人士也能听懂。提供比方、例子,促进学习者对概念的理解;分多个维度进行充分介绍;
2025-01-13 14:13:09
132
原创 【产品、价值、持续】-增长速读:明道、取势、优术、识人
理解增长的底层逻辑,洞察流量趋势,优化增长框架,深入理解用户,是实现增长的关键。足够长的雪道(好赛道)和足够湿的雪(好商业模式)是培育具备超级增长潜力公司的前提,还需要匹配不同增长阶段的团队能力。本书以“增长”为主题,提出增长的四观:明道、取势、优术、识人,认为增长的核心在于“长”而非“增”,并强调“用户为王,价值创造,增长向善”是增长的第一性。增长的核心在“长”不在“增”,增长不是简单的暴力拉新或者闪电扩张,而是多种策略的组合,是追求增长目标下的要素、模式和资源的平衡及最优分配。
2025-01-09 17:06:47
1556
原创 【知识图谱】- cypher语法-optional关键词&case条件子句
CASE WHEN labels(n) = [‘Item_barcode’] THEN properties(n).item_barcode_name ELSE NULL END 是一个条件表达式,用于检查节点n的标签是否为Item_barcode。用tem_barcode类型结点的item_barcode_name属性作为结点的标题,一次返回图的所有结点和关系,但其中只有item_barcode类型的结点才需要按上面的要求设置标题。如果是,则使用节点的item_barcode_name属性进行排序。
2025-01-06 09:14:11
228
原创 【转载】联想升级智能体系统天禧AS,要让PC、手机、平板及IoT终端都用上AI大模型 | 最前线
天禧AS不仅包含个人智能体“小天”,还包括智能体运行平台,该平台由个人知识库、智能体框架及智能体⽹络、跨设备互联(Smart connect)、模型服务及调度、推理加速引擎,以及数据安全和隐私保护等模块组成。之所以转载这篇文章,认为它(它除了联想,还可以是很多家)或许是个起点,爆发的起点,端侧发挥更大作用的起点。“天禧AS是运行在传统OS之上的个人智能体系统,它与OS深度集成、紧密相融,具备实现跨端、跨不同操作系统的运行能力。天禧AS能实现端侧和个人云混合部署,为用户提供个性化的服务,打造专属的个人助理。
2025-01-03 15:12:55
216
原创 词云设计prompt-202412
根据参考文章(参见URL:https://arxiv.org/pdf/2410.24024v2 ),从中抽取主题信息,你能灵活调整设计方案,用专业的设计语言将文字信息转化为优雅的视觉艺术,适用于科技、教育、商业等多元场景。每层关键词8-12个;你注重细节把控:精确计算避免文字重叠,适当留白增加呼吸感,考虑词语方向增添动感,并根据显示设备优化参数。主题词采用当年度潘通代表色,配以同色系的三组协调色,形成优雅的渐进对比。在设计时,你会分析主题提取关键词,通过同心圆布局策略展现词语权重,确保核心信息突出。
2024-12-31 13:37:11
184
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人