自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+

分享python,大模型,人工智能,机器学习相关的内容

分享python,大模型,人工智能,机器学习相关的内容

  • 博客(142)
  • 收藏
  • 关注

原创 mcp技术和langchain中的@tools注解的区别和联系

MCP是一个雄心勃勃的行业标准,致力于统一AI工具调用的底层语言。是一个便捷的框架特性,旨在简化特定框架内工具的创建。它们的关系是标准与实现、协议与工具的互补。LangChain通过支持MCP协议,使其内部的@tool生态与更广阔的外部工具世界连接起来,为开发者构建更强大的AI应用提供了无限可能。如果你正在考虑如何为你的AI应用添加工具能力,可以根据你的需求来决定:如果追求生态的广泛性和未来的可移植性,MCP是值得关注的方向;如果项目基于LangChain且工具相对固定,@tool。

2026-03-09 10:38:01 476

原创 大模型的Browser Use(浏览器使用能力)

Browser Use(浏览器使用能力)是指让大模型驱动的AI智能体能够像人类一样,通过观察、理解、操作浏览器来完成任务的能力。它不是简单的网页爬虫或自动化脚本,而是一个具备自主决策能力的“数字员工”。你只需用自然语言告诉它“帮我订一张下周去北京的机票”,它就能自动打开浏览器, navigating到订票网站,选择日期和航班,填写个人信息,直至完成预订。

2026-03-09 10:30:19 1023

原创 大模型的Computer Use(计算机使用能力)

Computer Use技术正将AI智能体的能力从"思考"推向"执行",是AI从数字助手进化为数字同事的关键一步。尽管当前在复杂界面适应性、执行速度和成本方面仍有挑战,但a16z预测,在未来18个月内,具备该能力的AI Agent效率将超越人类。哪些原本需要人手动操作的业务流程,可以交给一个能"看见"并"点击"屏幕的AI来完成?这不仅是自动化程度的提升,更是重塑企业数字化劳动模式的新机遇。

2026-03-09 10:18:48 572

原创 GPT-5.4介绍

从而大幅减少Token消耗。在Scale的MCP Atlas基准测试中,启用该功能在保持准确率不变的前提下,总Token消耗量减少了。

2026-03-06 16:36:07 1042

原创 OpenClaw的架构

OpenClaw的架构设计非常清晰且富有层次感,其核心理念可以概括为**"云端大脑"与"本地肢体"的分离**,并在此基础之上,通过和实现了极高的灵活性与可扩展性。

2026-03-05 17:09:09 682

原创 具身智能的概念

具有物理形态的智能体,通过‘感知-决策-行动-反馈’闭环系统与物理环境进行持续交互,能够理解、适应并改造环境,具备在开放世界中完成复杂任务能力的智能系统。具身性(Embodiment)智能体必须拥有物理载体(如机器人本体),配备多模态传感器(视觉、触觉、力觉等)和执行器(电机、关节等),使其能与环境发生物理作用。清华大学研究进一步指出,具身性不仅指“有身体”,更包含对重力、摩擦力等物理规律的内在理解。交互性(Interaction)智能行为源于与环境的双向动态交互,而非仅依赖内部模型。

2025-12-17 14:31:44 1474 3

原创 大模型能力测试与数据集

能力维度推荐数据集通用知识 & 语言理解MMLU(英)、C-Eval / CMMLU(中)数学推理GSM8K(基础)、MATH(进阶)、AMO-Bench(顶尖)代码能力安全对齐TruthfulQA + AdvBench + HHH人工评估中文综合SuperCLUE 或 AGIEval + CMMLU效率性能自建压力测试 + MLPerf💡最佳实践采用“自动评测 + 人工盲测 + 真实场景灰度”三结合方式,避免仅依赖榜单分数。例如用模式进行匿名A/B测试,更能反映用户体验。

2025-12-17 14:12:11 1330

原创 vLLM、SGLang、TRT-LLM这3种推理服务的区别

vLLM是“通用高效”的代表,平衡性能与易用;SGLang是“编程+执行一体化”的创新者,强调开发者体验与高级功能;TRT-LLM是“硬件深度优化”的工业标杆,牺牲灵活性换取极致性能。选择时应根据硬件环境、模型类型、开发资源与业务需求综合权衡。例如,在 H100 集群上部署 Qwen3-32B 对话服务,TRT-LLM 或 SGLang 更优;而在消费级 GPU 上快速验证 LLaMA3,则 vLLM 更为便捷。

2025-12-17 10:57:52 760

原创 亚信科技数智本体平台(AISWare Ontology Platform)

在平台发布同期,亚信科技联合 中国移动、中信科移动、清华大学智能产业研究院、Intel、高通、香港理工大学、同济大学、IEEE、紫金山实验室、中山大学、济南大学、阿尔伯塔大学 等 10余家顶尖机构,共同启动 “本体开源计划”。正如亚信科技CTO欧阳晔在演讲中所言:“共创本体驱动的Agentic AI应用”,数智本体平台正是实现这一愿景的 关键使能器。“数智本体平台的开源,标志着亚信科技在‘AI原生基础设施’布局上的又一次关键突破。对AI系统 提供可解释、可追溯、无幻觉的推理基础,迈向“可信AI”

2025-12-09 11:06:27 1858

原创 GoF提出的经典设计模式

它们通过抽象化常见问题的解决方案,帮助开发者构建高内聚、低耦合、可复用、易扩展的系统架构。单例、工厂、观察者、策略等模式分别从对象创建、结构组合、行为协作等维度提供了标准化的应对策略,至今仍在 Java、C#、Python、Go 等主流语言及框架(如 Spring、Laravel)中广泛应用。通过定义 DiscountStrategy 接口,并由 PercentageDiscount、FixedAmountDiscount 等类实现,订单计算逻辑只需持有策略引用,即可灵活切换折扣方式,而无需修改主流程。

2025-12-08 15:46:03 585

原创 Vibe编程(Vibe Coding)

Vibe编程”(Vibe Coding,又称“氛围编程”或“沉浸式编程”)是一种由人工智能(AI)驱动的新型软件开发范式,其核心理念是:开发者不再逐行手写代码,而是通过自然语言向大型语言模型(LLM)描述需求,由AI自动生成可运行的程序代码。词义来源:“Vibe”意为“氛围”或“感觉”,强调一种凭直觉、重体验、轻细节的开发状态——开发者“沉浸于AI生成代码的氛围中”,甚至“忘记代码本身的存在”。输入:开发者用日常语言(如中文、英语)描述功能目标(例如:“做一个登录页面,带邮箱验证和密码强度提示”)。

2025-12-08 10:20:16 2580

原创 「Interleaved Thinking」(交错思维)技术

MiniMax M2 所采用的 「Interleaved Thinking」(交错思维) 是一种面向 AI Agent 的新型推理机制,其核心思想是:在显式推理(reasoning)与工具调用(tool use)之间交替进行,并将每一步的推理状态持续传递到后续步骤中。MiniMax M2 的 Interleaved Thinking 技术,本质是为大模型 Agent 引入了一种类人的问题解决机制——不是靠一次完美规划,而是通过持续感知、动态调整、累积认知来应对复杂现实任务。

2025-12-05 10:59:54 1009

原创 LangChain v1.0简介

langchain-[partner](如 langchain-openai):官方深度集成的厂商包,提供最优实现(如 ChatOpenAI),支持最新特性(如 structured output、content blocks),仅依赖 langchain-core,生产环境强烈推荐。langchain(主包):聚焦现代 Agent 构建,提供 create_agent()、init_chat_model() 等高阶 API,自动重导出 core 中的常用类,适合90%的实际项目。

2025-12-05 10:00:56 715

原创 本体在实际工程落地项目中的主要作用

在实际工程落地项目中,本体(Ontology) 已从早期“学术玩具”或“知识图谱附属品”的角色,转变为支撑大模型(LLM)与企业业务深度融合的关键基础设施。因此,在企业 AI 工程中,本体已从“要不要做”转向“如何高效构建与迭代”,成为连接 湿世界(人类业务) 与 干世界(机器系统) 的核心桥梁。问题背景:企业系统林立(ERP、CRM、MES等),每个系统对“客户”“订单”“资产”等核心概念的定义、字段命名、状态码均不一致。例如:在能源企业本体中模拟“若某油田停产,对供应链、财务、人力的影响”。

2025-12-04 15:49:17 802

原创 Ollama 与 LM Studio 详细对比分析

选择 LM Studio:如果你希望"点开就能聊天",不想碰命令行,重视易用性和中文支持选择 Ollama:如果你需要将大模型嵌入自己的应用、写脚本自动化、或部署为服务国内用户:优先考虑 LM Studio(Ollama 模型下载可能极慢)追求性能与可维护性:Ollama 是更可持续的选择。

2025-11-18 14:27:51 2150

原创 开源 NL2SQL(自然语言转 SQL)项目

💡 趋势判断:NL2SQL 正从“单次 SQL 生成”向 Agentic Data Analyst(智能数据分析师) 演进——不仅能查数据,还能解释、可视化、提出建议,并在人类监督下持续学习。以下是对当前主流开源 NL2SQL(自然语言转 SQL)项目的系统性对比分析,涵盖 GitHub 活跃度、核心技术特点、基准性能、部署易用性以及优劣势。传统 benchmark(如 WikiSQL、Spider)主要衡量模型在标准数据集上的泛化能力,但真实企业场景更关注 Schema 理解、安全性和可解释性。

2025-11-18 10:45:19 1658

原创 自然语言问数系统(NL2SQL)

总的来说,构建NL2SQL系统是一个在“智能”与“可控”之间寻求平衡的过程。对于快速验证和简单场景,MindSQL或Chat2DB是不错的起点。若追求高精度和可控性,尤其在复杂企业环境中,推荐采用DB-GPT框架,并借鉴NL2DSL2SQL的架构思想引入语义层。无论选择哪条路径,严格的后端安全校验(Guard层)都是不可或缺的底线。

2025-11-18 10:24:19 1421

原创 RAG系统组件、技术栈和注意事项

一个高效的RAG(检索增强生成)系统通过结合外部知识库,能显著提升大语言模型回答的准确性和专业性。要构建这样的系统,关键在于理解其核心组件、选对技术栈并避开常见的“坑”。下面这个表格梳理了RAG系统的核心组成部分和目前主流的技术栈,可以帮你建立一个整体的认识。

2025-11-18 10:07:27 623

原创 通义灵码和Qoder的差异

均提供代码补全、智能问答、跨文件理解、调试辅助等基础功能,并引入“编程智能体”概念,能执行多步骤任务。通义灵码支持跨文件重构与持久记忆;Qoder 的 Quest 模式可将模糊需求(如“开发一个带用户系统的电商后台”)自动拆解为技术选型、模块设计、前后端代码、测试用例及部署脚本,实现端到端交付,极大提升新项目启动效率。提供私有化部署、敏感信息过滤、审计日志、专属 VPC 等功能,已通过 ISO/IEC 42001、信通院 4+ 评级等多项认证,特别适合金融、保险等对数据安全要求极高的行业。

2025-11-17 14:28:33 11373

原创 相似度计算算法系统性总结

算法数据类型是否考虑大小是否考虑顺序是否处理稀疏典型场景余弦相似度向量❌(只方向)❌✅文本、推荐皮尔逊相关数值✅(中心化)❌⚠️用户评分Jaccard集合❌❌✅标签、关键词Dice集合❌❌✅图像分割Tanimoto实数向量✅❌✅化学、文档TF-IDF+Cos文本⚠️(加权)❌✅信息检索BERT相似度文本✅✅✅语义匹配欧氏距离向量✅❌❌聚类、图像。

2025-11-04 17:33:14 1214

原创 提示词工程与上下文工程的区别与联系

你可以将构建一个强大的LLM应用看作是在导一场戏提示词工程是你写给演员的具体某句台词的演绎方式(比如“这里要表现出愤怒和失望”)。上下文工程是你写的整个剧本、人物小传、以及导演在拍摄过程中对演员的持续引导,确保演员从头到尾都沉浸在角色里,不会演着演着就忘了自己的身份和剧情。两者相辅相成,缺一不可,共同决定了最终演出的(模型输出的)质量。

2025-11-03 14:00:44 1014

原创 Dify概念简介

总的来说,你可以将 Dify 理解为AI 应用开发领域的“操作系统”或“全栈平台”。它通过整合模型、数据、工具和运维监控,提供了一站式的解决方案,让企业和开发者能够更专注于业务逻辑和创新,而非复杂的基础设施搭建。

2025-10-30 17:35:35 595

原创 单/多智能体系统的优缺点及未来展望

其发展路径将是渐进式的,从少量智能体的协作开始,逐步扩展到大规模系统。多智能体系统是由多个智能体组成的集合,这些智能体通过共享环境进行交互,它们可能协作、竞争或二者兼有,以实现个体或共同的目标。单智能体系统是指在一个环境中,只有一个智能体进行感知、决策和行动,以完成特定任务。未来不是“二选一”,而是“分工协作,融合发展”的格局。两种路径将根据应用场景的需求,各自深化并相互融合。方向,是通往更高级人工智能(如AGI)和复杂社会模拟的关键路径。单智能体系统远未过时,其发展将集中在。

2025-10-30 15:46:58 1497

原创 网络切片概念简述

灵活性:可以快速创建、修改和删除切片,响应市场变化。定制化:为不同行业和应用提供“量体裁衣”的网络服务。效率与成本:最大化利用共享的物理基础设施,降低建设和运营成本。安全隔离:一个切片出现故障或受到攻击,不会影响到其他切片。商业模式创新:运营商可以向企业客户直接“销售”切片服务,开辟新的收入来源。网络切片是5G的灵魂技术之一。它从根本上改变了网络的建设和服务模式,从“一刀切”的公共服务,转变为可以按需定制的、多样化的“网络即服务”。

2025-10-30 14:25:54 815

原创 Visual Studio Code (VS Code) 官方下载渠道

Visual Studio Code (VS Code) 是一款由微软开发的免费、开源且跨平台的代码编辑器。要获取正版软件,最安全可靠的方式是访问其官方网站。

2025-10-30 10:59:14 7081

原创 Notepad++官方下载渠道

Notepad++是一款在Windows系统下广受欢迎的免费文本编辑器,其官方下载渠道如下。

2025-10-30 10:50:29 4633

原创 本体论和知识图谱的联系与区别

联系:本体论是知识图谱的理论基础和设计规范。一个设计良好的本体是构建一个高质量、可推理的知识图谱的前提。知识图谱是本体现论思想的具体实现和应用。区别本体关乎“应该是什么”,它是一套规则和定义;知识图谱关乎“实际是什么”,它是遵循这些规则填充进来的具体数据。因此,当你听到“知识图谱”时,可以想到它是一个巨大的、充满具体事实的网络。而当你听到“本体”时,应该想到的是定义这个网络结构的“宪法”。

2025-10-29 14:43:31 1270

原创 本体论的基本概念

简单来说,本体论是研究“存在本身”的哲学分支。它不问“某个东西是否存在”(比如“外星人存在吗?”),而是追问:你可以把本体论想象成哲学的“宇宙库存清单”,它试图列出并定义构成现实的最基本“元件”及其组织方式。这些是本体论讨论中最常出现的基本构件。实体属性关系事件/过程共相与殊相这是理解本体论争论的关键。实在论概念论唯名论存在与不存在一与多抽象与具体必然与偶然心物问题有趣的是,这个古老的哲学术语在计算机科学和人工智能领域获得了新生。定义:在信息科学中,一个“本体”是一个对领域知识进行形式化和明确化的规范。它定

2025-10-29 14:35:30 1129

原创 世界模型和大语言模型的区别

特性大语言模型世界模型本质符号世界的专家物理世界的专家输入文本像素、状态、传感器数据输出文本预测的状态、图像、视频核心学习语言的统计规律学习物理的动态规律关系互补且正在融合,共同构成通向通用人工智能的两大基石。可以想象,一个完美的智能体既需要LLM的“大脑”来理解和运用人类的知识与语言,也需要世界模型的“小脑”来理解和操控所处的物理环境。两者结合,才能创造出真正能在现实世界中行动和思考的智能。

2025-10-23 14:57:29 1458

原创 世界模型简介

简单来说,世界模型是一个人工智能系统内部形成的、关于外部世界如何运作的“心智模型”或“模拟器”。它让AI能够理解环境中的基本规则(例如物理规律、因果关系),并根据过去的经验来预测未来的状态。它不是存储大量的具体数据,而是学习世界的抽象规律。想象一下你在脑子里玩“俄罗斯方块”。你不需要真的移动方块,就能在脑海里预测方块旋转后会落在哪里、是否会消除一行。这个在你脑海里运行的“游戏引擎”,就是你的世界模型。它基于你对游戏规则的理解,对未来进行模拟。

2025-10-23 14:51:47 930

原创 液态神经网络(Liquid Neural Networks, LNNs)代码示例

【代码】液态神经网络(Liquid Neural Networks, LNNs)代码示例。

2025-10-14 11:36:46 586

原创 SGLang简介

SGLang 是一个旨在提升LLM应用开发效率和运行效率的框架。它通过更优雅的编程接口让开发者轻松编写复杂提示词逻辑,并通过其RadixAttention技术自动缓存和复用公共前缀,极大地减少了不必要的计算,从而实现了低延迟和高吞吐量。如果你正在构建复杂的LLM应用(如智能体、多步推理链)、需要进行大量提示词评估(evaluation)或者 simply want your LLM programs to run faster,SGLang 是你应该密切关注和使用的强大工具。

2025-09-11 10:24:54 1830

原创 Wait, We Don’t Need to “Wait”! Removing Thinking Tokens Improves Reasoning Efficiency

NOWAIT 是一个“即插即用”的推理优化工具,它通过屏蔽“无用反思”关键词,让大模型更快、更省地推理,而不牺牲准确性。

2025-07-31 15:13:23 522

原创 大模型技术对部分岗位的影响

大模型技术正推动一场劳动力市场的结构性洗牌——高盛预测未来十年约6%-7%岗位被替代,但历史表明技术革命创造的岗位终将超过消灭的数量。短期阵痛不可避免,但长期来看,适应AI协作、持续学习跨界能力的人,将在新生态中占据更核心的位置。

2025-07-29 21:01:54 846

原创 Uvicorn

Uvicorn 是现代化 Python Web 生态中的重要组件,尤其适合异步应用。如果你是 FastAPI 或 Starlette 用户,它几乎是默认选择。对于生产部署,建议搭配反向代理(如 Nginx)和进程管理工具(如 Gunicorn)。

2025-06-30 14:39:24 759

原创 Layer by Layer: Uncovering Hidden Representations in Language Models

研究发现,中间层的表示可以在多种下游任务中提供优于最终层的表现,这对模型的可解释性、鲁棒性和效率都有潜在影响。利用这些强相关性,可以在无监督的情况下选择高性能的层,例如通过基于DiME的层选择方法,可以使Pythia-410M模型的MTEB得分平均提高3%。总的来说,这项研究为理解大型语言模型的内部表示提供了新的视角,并为进一步的研究奠定了基础。更好的识别潜在特征和表示的方法可能会放大潜在偏见,因此未来的工作需要探索确保中间层表示不会不成比例地强化偏见或导致实际应用中的意外差异的方法。

2025-06-27 20:47:50 518

原创 Agent-to-Agent (A2A) 协议全面解析:定义、原理、应用与未来

Agent-to-Agent(A2A)协议是由Google在2025年4月正式推出的开放标准通信协议,旨在解决不同AI智能体之间的互操作性问题。该协议为异构AI系统提供了一套统一的交互规范,使来自不同平台、不同供应商的智能体能够像人类团队一样进行有效协作。A2A协议的诞生标志着AI技术发展进入了一个新阶段——从单一智能体的能力提升转向多智能体系统的协同增效。在A2A协议出现之前,AI领域面临着严重的"巴别塔困境":每个智能体都有自己独特的通信方式和数据格式,导致跨系统协作极为困难。

2025-06-27 15:11:30 4242

原创 Server-Sent Events (SSE)

Server-Sent Events (SSE) 是一种HTML5技术,允许服务器通过HTTP连接向客户端(通常是网页浏览器)单向推送实时数据。与传统的客户端轮询不同,SSE建立了一个持久连接,服务器可以随时通过这个连接发送数据更新。SSE是单向通信协议,数据只能从服务器流向客户端,这与WebSocket的双向通信形成对比。这种特性使得SSE特别适合只需要服务器推送数据的场景。

2025-06-27 15:01:38 1398

原创 SSE(Server-Sent Events)、WebSocket和Polling的对比

根据实际需求(实时性、双向性、兼容性)和系统资源(服务器负载、带宽)综合选择。

2025-06-23 18:06:27 717

原创 大语言模型智能体开发的技术框架与应用前景

大语言模型(LLM)智能体开发已成为人工智能领域最活跃的研究方向之一,它通过赋予大模型规划、记忆和工具使用能力,极大地扩展了传统语言模型的应用边界。本文将系统梳理当前智能体开发的主流技术框架与工具链,分析其核心特性和适用场景,并展望未来主要应用方向和发展趋势。从金融保险行业的自动化流程到多智能体协作系统,从开源框架的快速发展到企业级解决方案的涌现,智能体技术正在重塑人机交互模式和工作流程自动化。

2025-06-11 21:25:23 1421

空空如也

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除