自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+
  • 博客(149)
  • 收藏
  • 关注

原创 方面级别情感分析之四元组预测

quad方面级别情感分析四元组任务是由南京理工大学团队2021年8月的论文(ACL 2021)《Aspect-Category-Opinion-Sentiment Quadruple Extraction with Implicit Aspects and Opinions》首先提出来的,这篇文章他主要的贡献是对方面级情感分析四元组的任务定义, 以及提供了一个公开数据集ACOS,提出了多个基于bert处理四元组任务的baseline。\quad。

2023-08-30 22:32:39 12778

原创 方面级别情感分析介绍

由于细粒度情感分析是由早期的情感分析发展来的, 所有在讲细粒度情感分析之前我们需要要了解一下什么是情感分析。说明: (细粒度情感分析也叫方面级别情感分析, 本文统一称为细粒度情感分析)

2023-08-30 22:31:11 12245

原创 方面级情感分析综述论文&论文+讲解+复现(ABSA)

2022最新方面级别情感分析论文综述:A Survey on Aspect-Based Sentiment Analysis:Tasks, Methods, and Challenges其中关于ASTE-Data-V2数据集的论文1.论文地址1.Towards Generative Aspect-Based Sentiment Analysis ACL20212.Learning Span-Level Interactions for Aspect Sentiment Triplet Extra

2022-04-28 14:59:31 16947 12

原创 RAG 评测:传统检索指标与 RAGAS

本文探讨RAG系统评测的重要性,强调仅凭答案“看起来合理”不足以发现问题根源。通过传统指标(Precision、Recall、F1、MRR、NDCG)评估检索质量,结合RAGAS框架量化上下文精确率(Context Precision)、召回率(Context Recall)、忠实度(Faithfulness)与答案相关性(Answer Relevance),实现对检索与生成环节的精准定位。该方法帮助识别问题链:如召回不足、噪声干扰或答案编造,并驱动针对性优化,提升RAG系统可靠性与可解释性。

2026-10-12 01:11:02 1833

原创 RAG 细节与优化理解

本文深入解析RAG中Bi-Encoder与Cross-Encoder的核心机制与优化策略。Bi-Encoder通过独立编码Query与文档向量实现高效召回,适合大规模检索;而Cross-Encoder通过融合交互实现精细排序,精准捕捉局部证据与条件差异。二者协同构成“找得到、排得准”的检索链路。优化应聚焦问题环节:若相关文档未召回,需提升数据/分块质量或调整召回策略;若已召回但排序不佳,则引入Cross-Encoder重排。实际应用中,建议结合向量检索与BM25混合召回,再以BGE、Jina等模型进行精排,

2026-10-12 00:41:51 2445

原创 RAG 概览:从知识库到答案的完整闭环

RAG(检索增强生成)是一种将外部知识库与大模型生成结合的架构,通过“检索相关文档→拼接上下文→生成答案”的流程,解决模型知识滞后、私有数据无法使用、幻觉等问题。适用于企业知识库、客服问答、技术文档辅助等场景。其两阶段架构包括离线构建知识库与在线检索生成,关键技术涵盖文档解析、向量化、混合检索与重排。RAG不替代模型训练,也无法解决所有问题,但为大模型提供可更新、可追溯的知识支持,是实现精准、可控问答的重要工程方案。

2026-10-11 21:33:06 1729

原创 GRPO 算法理解:从组内相对奖励到策略优化

GRPO(Group Relative Policy Optimization)是一种无需独立Critic的策略优化方法,通过同一Query生成多个Response并基于组内相对奖励进行策略更新。其核心思想是:在一组回答中,高于平均表现的响应被强化,低于平均的被抑制,从而构建相对优势(Advantage)。GRPO利用SFT模型作为初始Policy与Reference Model,并结合规则、Verifier或可选的Reward Model提供奖励信号,避免训练额外价值函数。损失函数借鉴PPO形式,但以组内

2026-10-11 02:58:48 1781

原创 DPO 算法理解:从偏好数据到直接偏好优化

DPO(直接偏好优化)无需训练奖励模型或价值函数,仅通过人类偏好数据(chosen/rejected回答对)直接优化语言模型策略。其核心在于利用参考模型约束更新幅度,避免过拟合,实现高效、稳定的对齐。相比PPO等强化学习方法,DPO省去滚动采样与复杂损失计算,流程更简洁,训练更稳定,是“从偏好数据到直接优化”的范式革新。

2026-10-11 02:50:58 1692

原创 PPO 算法理解:从策略梯度到大模型 RLHF

PPO(近端策略优化)是2017年提出的一种稳定高效的强化学习算法,通过限制新旧策略更新幅度,在训练稳定性与复杂度间取得平衡。其核心思想是利用概率比 $\rho_t$ 衡量策略变化,并采用两种方式控制更新:一是通过KL散度惩罚(PPO-Penalty),二是直接裁剪概率比(PPO-Clip)。后者更常用,通过将 $\rho_t$ 限制在 $[1-\epsilon, 1+\epsilon]$ 内,防止策略更新过猛。在大模型RLHF中,PPO结合人类偏好与奖励模型,实现从监督微调到对齐优化的演进,成为主流对齐方

2026-10-11 00:12:09 1862

原创 LLM 训练系列(三):参数更新策略——Full FT、LoRA 与 QLoRA

本文系统梳理LLM参数更新策略,区分全量微调(Full FT)与参数高效微调(PEFT)的本质差异。重点解析LoRA与QLoRA原理:通过低秩矩阵增量更新权重,仅训练少量新增参数,显著降低显存与计算成本。结合SFT、DPO等训练范式,明确其与参数更新策略的组合关系,避免概念混淆。适用于资源受限场景,是当前主流高效微调方案。

2026-10-09 11:09:45 1674

原创 LLM 训练系列(二):后训练——SFT 与偏好对齐

本文系统介绍大模型后训练中的核心环节——监督微调(SFT)与偏好对齐。SFT通过高质量指令数据引导模型学习任务遵循与输出规范,使用交叉熵损失仅对助手回复部分优化;随后的偏好对齐则引入人类或机器判断的优劣对比(如chosen/rejected样本),通过PPO、DPO等方法提升模型生成更优回答的能力。其中,DPO无需显式奖励模型,直接基于偏好对优化策略,效率更高;而PPO依赖奖励与价值模型,适合复杂反馈场景。两者共同实现从通用语言模型到高阶指令遵循模型的跃迁。

2026-10-09 09:56:54 1839

原创 LLM 训练系列(一):预训练——通用预训练与持续预训练

预训练就是让一个模型阅读海量文本,通过反复预测下一个 Token(Next Token Prediction),逐渐学习语言规律、知识以及一定的推理能力。关键词:自监督学习、Next Token Prediction。预训练(Pre-training)是指模型在大规模原始语料上进行自监督学习,从数据本身构造训练标签,学习语言建模能力。预训练流程总览LLM 预训练流程├─ 通用预训练(General Pre-training)│ ├─ 数据准备│ │ ├─ 收集高质量通用文本语料。

2026-10-08 23:02:49 1907

原创 浅谈LLM 训练系列(总览):从数据工程到推理部署

数据工程↓通用预训练↓持续预训练(可选)↓SFT↓偏好或奖励对齐(可选但常见)↓评测↓部署与反馈迭代理解整个体系的关键,是不要把“训练阶段、训练方法和参数更新策略”混为一谈。参考资料本文为个人学习笔记,如有错误,欢迎指正。

2026-10-08 23:00:06 2046

原创 SSH 常见用法(四):使用 SCP 和 SFTP 远程传输文件

SSH 是一种安全访问和操作远程计算机的方式。SSH 的全称是Secure Shell(安全外壳协议),是一种用于安全访问和操作远程计算机的加密网络协议。加密通信:防止用户名、密码、命令和传输内容被窃听。确认服务器身份:帮助客户端判断当前连接的是不是目标服务器。确认登录者身份:服务器可以通过密码或 SSH Key 验证客户端身份。排名SSH 使用场景重要性常见用途1远程登录服务器⭐⭐⭐⭐⭐登录 Linux 服务器、云主机、开发机和生产环境2通过 SSH 做 Git 身份认证。

2026-10-07 14:52:55 1810

原创 SSH 常见用法(三):SSH 隧道与端口转发

SSH 隧道 / 端口转发(Port Forwarding)。它和“远程登录服务器”不一样。让我进入远程服务器的 Shell。借助 SSH 这条安全连接,把原本访问不到的某个端口“转到”我本机来访问。SSH 连接负责建立“隧道”;隧道出口所在的那一侧,还必须能访问最终目标。-L****:在本机开一个端口,转到远程。-R****:在远程 SSH 服务器上开一个端口,转回本机。-L-R-D是三种转发方式;-N-f是辅助参数。类型第一条件另外还需要-L 本地端口转发本机能 SSH 连接服务器。

2026-10-07 14:51:20 1913

原创 SSH 常见用法(二):通过 SSH 认证访问 Git 仓库

SSH 的全称是Secure Shell(安全外壳协议),是一种用于安全访问和操作远程计算机的加密网络协议。它可以提供加密通信、服务器身份验证和客户端身份验证。SSH 常见的使用场景包括远程登录服务器、Git 身份认证、端口转发和远程文件传输。通过 SSH 认证访问 Git 仓库。在访问远程 Git 仓库时,可以使用 SSH Key 证明“你是谁”,不需要反复输入远程平台的账号密码。简单来说:私钥保存在本机,公钥添加到 GitHub;

2026-10-07 14:44:18 1970

原创 SSH 常见用法(一):远程登录服务器

本文介绍了SSH远程登录服务器的基础用法,核心命令为ssh 用户名@服务器IP,非默认端口需加-p 端口。首次连接需确认主机指纹并输入密码。通过配置SSH密钥认证可实现免密登录,提升安全性和效率。后续还可结合~/.ssh/config文件简化连接命令,为日常运维与自动化任务奠定基础。

2026-10-07 13:50:33 1902

原创 浅谈 SSH:原理、认证与四种常见用法

SSH(安全外壳协议)是一种加密的远程登录与管理工具,广泛用于安全访问服务器。其核心功能包括远程登录、Git身份认证、端口转发及文件传输。通过密钥认证可避免密码泄露风险,提升安全性。常见用法中,远程登录和Git SSH认证最为重要,支持跨网络的安全操作。掌握SSH命令如ssh user@host、scp、ssh-keygen等,是高效运维与开发的基础。

2026-10-07 13:46:32 1912

原创 【LLM】多平台思考模式的开启、关闭与响应判断

本文介绍大模型思考模式的开启与判断方法,涵盖阿里云百炼、火山方舟、DeepSeek、Kimi及本地部署等平台。通过enable_thinking、thinking.type等参数控制思考模式,但最终是否返回思考内容需以响应中的reasoning_content字段为准。模型分为默认开启、默认关闭、仅支持思考三类,建议使用model_dump精确判断字段存在性与内容空值。文中提供通用解析函数,帮助开发者准确提取推理过程与最终回答,提升应用可靠性。

2026-10-06 22:46:49 2072

原创 【Codex Remote】 Codex App通过SSH连接远程Linux开发环境

[Codex Remote] Codex App通过SSH连接远程Linux开发环境

2026-09-05 02:28:15 2546 1

原创 【 Nanobot 】nanobot 核心源码解读

anthrpoic官网文档: https://platform.claude.com/docs/en/agents-and-tools/agent-skills/overviewAnthropic将Agent Skills定义为基于大模型的智能体模块化能力单元,核心是通过“能力解耦-按需组合-安全校验”闭环,将大模型的感知、推理、行动等基础能力封装为可复用组件。

2026-05-19 02:04:13 6376

原创 【Claude Code Router】 Claude Code 兼容 OpenAI 格式 API, Claude code 接入本地部署模型

Claude Code 是 Anthropic 官方推出的 AI 编程助手 CLI 工具,默认使用 Claude 模型。Claude Code Router 是一个开源的路由工具,允许我们将 Claude Code 的请求转发到其他兼容 OpenAI API 格式的模型服务,实现灵活的模型切换和统一管理。本文将介绍 Claude Code Router 的功能特点,并详细讲解安装配置步骤。

2026-05-02 19:54:43 9330

原创 【CC-Switch】:Claude Code 兼容 OpenAI 格式 API, Claude code 接入本地部署模型

告别手动编辑配置文件— 可视化界面一键切换支持多种 API 格式— Anthropic 格式和 OpenAI 兼容格式都能搞定路由模式— 自动格式转换,兼容更多供应商统一管理— MCP、Skills、Prompts 一站式管理对于经常使用 Claude Code 的开发者,CC-Switch 是提升效率的必备工具。推荐使用路由模式获得更好的兼容性,可以接入 DeepSeek、硅基流动等国内优质模型服务。

2026-05-01 22:29:25 21131 4

原创 【xiaozhi-客户端】xiaozhi-web-client 连接客户端 6位有效码

当服务器启用设备认证时,新设备首次连接需要获取六位验证码进行激活。本项目提供了脚本用于获取验证码。xiaozhi-web-client 提供了一个便捷的Web界面来使用小智语音助手。通过简单的配置,你可以快速启动服务并开始语音对话。配置 .env 文件- 设置服务器地址和端口获取验证码- 如果服务器启用认证,使用获取六位验证码启动服务- 使用 Poetry 或 Docker 运行开始使用- 打开浏览器访问 Web 界面。

2026-04-26 19:24:09 8298

原创 【xiaozhi-esp32-server-服务端全模块启动】 xiaozhi-server 获取6位有效验证码

这里会你自己创建的agent配置,刚进去的时候默认为空。

2026-04-26 18:49:21 7818

原创 【语音相关ASR】FunASR 离线语音识别与FunASR热词优化

FunASR 是阿里巴巴达摩院开源的语音识别工具库,提供了多种模型和丰富的参数配置,支持离线和实时语音识别。在查阅 FunASR 热词功能相关资料时,发现网络上关于本文将从 FunASR 的基础功能出发,重点介绍的完整实现,并提供所有可运行的代码示例,帮助读者快速上手 FunASR 热词优化。

2026-04-12 13:37:59 8079

原创 【python_并发】requests vs aiohttp vs httpx:HTTP客户端深度对比与实战

单次请求:简单脚本、配置文件读取非IO密集:计算密集型任务兼容旧代码:迁移成本考虑调试阶段:同步代码更容易调试# 简单脚本用 requests 最方便场景同步耗时异步耗时提升10个请求(串行)~5秒~0.5秒10倍100个请求(并发10)~50秒~5秒10倍单次请求~0.5秒~0.5秒无差异结论单次请求:同步和异步性能相同批量请求:异步性能提升N倍(N为并发数)异步的优势在于等待IO时可以做其他事,不是单次请求更快。

2026-04-11 18:26:11 7801 2

原创 【语音相关ASR】OpenAI 兼容 Qwen_ASR 接口调用实战:SDK 与 HTTP 方式详解 / Qwen_ASR 热词支持

格式本地 completions本地 transcriptions阿里云 OpenAI 兼容阿里云异步转写base64 编码✅❌✅❌WAV 文件❌✅❌❌URL 形式✅❌✅✅(必须)PCM 数据❓❓❓❌说明接口需要 base64 编码或 URL接口直接传文件对象阿里云异步转写必须提供 OSS URL。

2026-04-08 22:57:59 9927 2

原创 【语音相关ASR】FunASR 实时流式语音识别之paraformer-zh-streaming

FunASR 是阿里巴巴达摩院开源的语音识别工具包,旨在 bridging 学术研究与工业应用之间的鸿沟。它基于 PyTorch 构建,提供从模型训练到推理部署的完整解决方案。丰富的预训练模型:涵盖语音识别(ASR)、语音活动检测(VAD)、语音分离、标点恢复等多种任务工业级性能:经过阿里巴巴集团大规模生产环境验证灵活的架构:支持自定义模型、数据集和训练流程中文优化:对中文语音识别场景做了深度优化维度离线推理实时推理延迟高(等待完整音频)低(毫秒级响应)精度较高(完整上下文)

2026-04-04 11:50:36 7996 1

原创 【语音相关】Opus编码器生命周期管理:从“有噪音“到“无噪音“的完美转换 [opus, pcm 转化电流音问题解决]

✅ 正确做法# ❌ 错误做法。

2026-04-02 21:57:24 5958

原创 [agent memory] Diagnosing Retrieval vs. Utilization Bottlenecks in LLM Agent Memory

这篇研究为LLM Agent记忆系统的研发踩下了“刹车”——让研究者和工程师从“为了复杂而复杂”的写入策略设计中抽离,重新聚焦于记忆系统的核心需求:把正确的信息,在正确的时间,检索到模型面前。在大模型技术快速迭代的今天,这样的“诊断性研究”尤为珍贵:它不追求新的模型或新的策略,而是通过严谨的实验拆解核心问题,为后续研发指明方向,避免行业在无效的方向上浪费资源。

2026-03-16 00:49:20 6747

原创 python 迭代器和生成器

迭代器是一个实现了迭代器协议__iter__():返回迭代器自身(必须);__next__():返回序列中的下一个元素;若无更多元素,抛出异常。通过类实现__iter__()和__next__()self.current = start # 当前迭代值self.end = end # 迭代终止条件return self # 必须返回迭代器对象本身raise StopIteration # 无元素时抛出异常,终止迭代return res# 使用迭代器。

2025-11-12 15:43:02 7221

原创 python 多进程、多线程,异步

Python 中的多线程(Multithreading)是一种并发编程技术,允许程序在同一进程中同时运行多个“线程”(轻量级的执行单元),从而提高 I/O 密集型任务的效率。Python 多进程是 利用操作系统的多进程机制,并行执行多个独立任务 的编程方式,核心解决 CPU 密集型任务 的性能瓶颈(如计算、数据分析),也能规避 Python 全局解释器锁(GIL)对 CPU 并行的限制。多进程的本质是:操作系统为每个进程分配独立的内存空间、Python 解释器和 GIL,进程间完全隔离,可真正并行执行。

2025-11-10 14:18:09 7216

原创 BaseEventLoop.create_connection() got an unexpected keyword argument ‘extra_headers‘

本文分析了小智开源项目中WebSocket连接问题,指出客户端(WebSocket v12.0)与服务端(v14.2)版本不兼容导致"extra_headers"参数错误。通过对比源码发现v14.2使用"additional_headers"而非v12.0的"extra_headers"。解决方案是将客户端连接参数从"extra_headers"改为"additional_headers"即可实现版本兼容。

2025-10-28 16:06:37 6899

原创 AGENT KB: Leveraging Cross-Domain Experience for Agentic Problem Solving

当前的人工智能代理无法有效地从彼此的问题解决经验中学习,或利用过去的成功来指导新任务中的自我反思和错误纠正。我们引入了AGENT KB,这是一个共享的知识库,它捕捉了高级问题解决策略和详细的执行经验教训,使得跨代理框架的知识转移成为可能。Agent KB实现了一种新颖的师生双阶段检索机制,学生代理检索工作流级别的模式以获得战略指导,而教师代理识别执行级别的模式以进行细化。这种层次化方法使代理能够通过整合外部来源的多样化策略来打破有限的推理路径。

2025-10-14 16:08:37 6957

原创 playwright 翻页操作,悬浮操作

利用playwright控制B站搜索进行下一个操作,知道下一页没有为止。b站页面悬停、然后点击操作。

2025-09-02 21:41:53 6706

原创 LangGraph 多智能体

单个智能体可能难以应对需要专门处理多个领域或管理多种工具的情况。为了解决这个问题,您可以将智能体分解为更小、独立的智能体,并将它们组合成一个多智能体系统。在多智能体系统中,智能体之间需要进行通信。它们通过移交来实现这一点——这是一种描述将控制权移交给哪个智能体以及发送给该智能体的数据负载的原始操作。两种最受欢迎的多智能体架构是:主管——单个智能体由一个中央主管智能体协调。主管控制所有通信流和任务委派,根据当前上下文和任务要求决定调用哪个智能体。群组。

2025-08-28 15:43:30 7511

原创 python 异步

异步编程主要关注的是并发(Concurrency),而不是并行。它通过单线程中的事件循环来管理多个任务,这些任务在等待 I/O 操作时可以暂停执行,让其他任务继续运行。虽然异步编程可以提高程序的响应能力和资源利用率,但它本身并不实现真正的并行。

2025-08-15 00:54:47 6962

原创 python logger冗余日志处理

在for循环中创建logger日志,产生冗余日志。

2024-08-18 00:02:40 6534 1

原创 Self-Training with Pseudo-Label Scorer for Aspect Sentiment Quad Prediction

方面情感四元组预测(ASQP)旨在为给定的评论预测所有的四元组(方面术语、方面类别、观点术语、情感极性),这是基于方面的情感分析中最具代表性且最具挑战性的任务。ASQP任务的一个关键挑战是标注数据的稀缺性,这限制了现有方法的性能。为了解决这一问题,我们提出了一个带有伪标签评分器的自训练框架,其中评分器评估评论与其伪标签之间的匹配程度,旨在过滤掉不匹配的部分,从而提高自训练的效果。我们强调了两个关键方面,以确保评分器的有效性和可靠性:训练数据集的质量及其模型架构。为此,我们创建了一个人工标注的对比数据集。

2024-08-17 17:45:28 7544 4

空空如也

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除