lamp环境部署 RAG + Agent + LLM

Recurrent Memory、Agentic RAG与LLM写作评估实战指南 大语言模型(LLM)在真实业务中面临长程记忆衰减、检索-生成僵化、生成内容不可信三大核心挑战。其根源在于Transformer架构的位置编码局限、RAG流水线缺乏自主决策能力,以及传统评估指标(如ROUGE)无法捕捉语法正确但逻辑/合规/情绪失当的‘高危病句’。Recurrent Memory通过轻量GRU模块模拟工作记忆,实现按session衰减的精准状态管理;Agentic RAG依托LangGraph构建Query Router与多源自适应检索,让系统自主判断‘该查知识库还是调API’;LLM写作评估 阅读详情

python3 -m venv venv

source venv/bin/activate # 创建虚拟环境

安装依赖

langchain==0.2.*

langchain-community # 包含 DashScope 支持

dashscope # 阿里云官方 SDK

faiss-cpu

unstructured[pdf,docx]

tiktoken

fastapi

uvicorn

python-dotenv

pypdf

python-docx

获取DashScope API Key

.env

DASHSCOPE_API_KEY=sk-xxxxxxxxxxxxxxxxxxxxxxxxxxxx

chmod 600 .env  #权限

目录结构

rag-qwen-lamp/

  ├── .env.example # 环境变量模板

  ├── requirements.txt # Python 依赖

  ├── README.md # 部署说明

  ├── knowledge_base/ # 上传的文档存放目录(自动创建)

  ├── vectorstore/ # FAISS 向量库存储(自动创建)

  ├── main.py # FastAPI 入口

  ├── rag_manager.py # RAG + Qwen 核心逻辑

  └── php_admin/ # PHP 管理前端(LAMP 用)

    ├── index.php

    └── upload.php

测试 FastAPI 服务

source venv/bin/activate  # 确保在虚拟环境中

uvicorn main:app --host 127.0.0.1 --port 8000  # 启动服务(仅本地访问)

用 systemd 托管服务

sudo nano /etc/systemd/system/rag-qwen.service

[Unit]

Description=RAG Qwen FastAPI Service

After=network.target

[Service]

User=apache

Group=apache 

WorkingDirectory=/var/www/rag-qwen

EnvironmentFile=/var/www/rag-qwen/.env

ExecStart=/var/www/rag-qwen/venv/bin/uvicorn main:app --host 127.0.0.1 --port 8000 Restart=always

RestartSec=10

[Install]

WantedBy=multi-user.target

启动服务

sudo chown -R www-data:www-data /var/www/rag-qwen  # 设置目录权限 

systemd sudo systemctl daemon-reload # 重载

sudo systemctl enable rag-qwen # 开机自启

sudo systemctl start rag-qwen # 启动服务

sudo systemctl status rag-qwen # 查看状态

配置 Apache 反向代理

sudo nano rag-qwen.conf

# 反向代理 API

ProxyPreserveHost On

ProxyPass /api/ http://127.0.0.1:8000/

ProxyPassReverse /api/ http://127.0.0.1:8000/

使用 Chroma 替代 FAISS

from langchain_community.vectorstores import Chroma

# 替换 FAISS 为 Chroma

vectorstore = Chroma.from_documents(

    documents=splits,

    embedding=embeddings,

    persist_directory=VECTORSTORE_PATH

)

vectorstore.persist()

Kimi+OpenClaw本地智能体工作流实战:协议对齐与生产部署 智能体(Agent)是当前AI工程化落地的核心范式,其本质是将大语言模型的推理能力与本地工具调用能力协同编排。理解Function Calling协议、掌握LLM与执行引擎间的结构化交互机制,是构建可靠自动化工作流的基础。Kimi API v2.7升级带来的嵌套式tool_calls结构,显著提升了参数解析准确性与容错性;OpenClaw作为轻量级本地技能调度框架,通过意图识别、Schema校验、进程沙箱等设计,实现了自然语言到本地软件操作的端到端闭环。本文聚焦协议层对齐、调度逻辑拆解与安全执行实践,覆盖中 阅读详情

相关推荐

大模型训练、微调与推理:从LoRA到vLLM/Ollama的部署实践

大模型落地绕不开训练、微调与推理三阶段,各自对算力、显存和框架的要求截然不同。预训练从海量语料学习通用能力,微调通过全量或LoRA等参数高效方式注入业务知识,推理则聚焦延迟、吞吐与KV Cache优化。理解这一底层逻辑,才能合理选型:高并发在线服务可借助vLLM,本地私有化部署则用Ollama。从实际工程经验出发,对比LoRA、全量微调与Freeze的取舍,演示Qwen模型微调上线路径,并给出显存估算与避坑指南,帮助开发者在成本和效果之间找到平衡。

weixin_34015336的博客 609

LAMP环境部署RAG、Agent与LLM:存量系统AI助手实战复盘

大语言模型应用正从单点对话走向业务系统集成。检索增强生成(RAG)通过将私域文档分块、向量化并构建检索链路,让模型在回答时拥有可验证的知识依据,有效降低幻觉。Agent则负责解析用户意图、编排任务,使自然语言指令能触发实际业务动作。两者的结合让AI不仅会“说”,更能“做”。在实际落地时,许多企业仍需依托存量LAMP(Linux、Apache、MySQL、PHP)环境,如何在不动原有架构的前提下接入LLM与向量检索,成为工程实践的关键问题。通过PHP编排Agent流程、Python执行向量检索、MySQL存储

weixin_42559413的博客 208

Python实战:解析腾讯视频M3U8加密链接并下载高清影片

本文详细介绍了如何使用Python解析腾讯视频M3U8加密链接并下载高清影片。从环境准备、抓包分析到核心代码实现,逐步讲解如何获取M3U8主链接、解析TS分片列表以及下载合并视频片段。文章还提供了多线程下载、断点续传和加密视频处理等优化方案,帮助开发者高效完成视频下载任务。

weixin_30836759的博客 525

从零搭建LAMP架构:本地部署RAG+Agent+LLM的完整实操记录

本地化部署大语言模型应用时,检索增强生成(RAG)、智能代理(Agent)与模型服务(LLM)的协同是核心难题。RAG通过向量检索从私有知识库中召回相关片段,缓解模型幻觉;Agent负责多步任务拆解与工具调用;LLM提供生成能力。三者组合可实现可控、可审计、可离线的企业级智能助手。然而,从数据清洗、切块嵌入,到混合检索的权重调优,再到Agent的迭代上限与权限边界,每一步都有工程陷阱。本文基于一台24GB显存服务器的完整部署记录,详细梳理了LAMP(Local-Agent-Model-Pipeline)架构

weixin_29054195的博客 250

Manimgl 进阶笔记

目录 一、调整视频输出的纵横比 二、调整预览窗口的尺寸 三、在开发工具中直接调试 一、调整视频输出的纵横比 调整输出视频的纵横比,在日常开发中属于比较基本的需求。要使用 Manimgl 得到期望的分辨率的视频输出需要修改以下几个地方: 第一步:在 custom_config.yml 配置文件中通过 camera_qualities设置视频的输出分辨率。manimlib 框架已经在 default_config.yml 文件中设置了四种视频输出分辨率,default_qualities 参数.

gunnery的专栏 2856

Unity抖音小游戏上架实战:从零到一,详解流程与避坑指南

本文详细介绍了Unity抖音小游戏上架的全流程,包括环境准备、SDK集成、开发者账号注册、软著申请、打包提交流程及常见问题解决方案。重点解析了抖音小游戏平台特有的配置细节和避坑技巧,帮助开发者高效完成游戏上架并优化用户体验。

weixin_33704234的博客 261

LAMP环境下的RAG与Agent部署:从传统Web服务到AI应用落地

传统Web服务向智能化升级时,LAMP(Linux、Apache、MySQL、PHP)常被视为老旧技术栈,但它依然可以成为AI应用的稳定底座。关键在于遵循最小改造原则:保留Linux与MySQL承担系统与元数据职责,通过反向代理衔接原有业务,同时以独立进程接入LLM推理、RAG知识检索和Agent调度层。这种架构不追求重型GPU集群,而是利用现有服务器资源,通过量化模型、MySQL向量字段与轻量FastAPI服务完成私有化部署,既控制成本又降低迁移风险。当企业需要在内网构建知识问答、流程助手等场景时,这套方

weixin_42638178的博客 83

Unified Access Control:从NAS到RRC的5G接入控制全流程解析

本文深入解析了5G统一接入控制(Unified Access Control)的全流程,从NAS到RRC的协同工作机制。通过身份核验、业务分类和动态决策三个核心步骤,UAC实现了智能调度和弹性决策,确保海量设备接入时的网络稳定性。文章详细介绍了USIM卡的身份凭证体系、NAS层的业务分类引擎以及RRC层的动态决策机制,并提供了实战案例和常见问题排查方法。

weixin_30855099的博客 587

LLM arxiv每日论文

构建两个数据集(Video-R4-CoT-17k和Video-R4-RL-30k),采用多阶段学习框架,通过SFT和GRPO-based RL微调7B LMM学习视觉操作。:提出MR-RLVR,通过“masked-then-fill”和“step reordering”构建过程级自监督奖励,从中间推理中提取可学习信号。:Qwen2.5-3B和DeepSeek-R1-Distill-Qwen-1.5B上,Pass@1提升+9.86%,Pass@5提升+5.27%,Pass@8提升+4.00%。

weixin_56693495的博客 1719

【软件使用】Calibre部分提参的实战技巧与常见问题解析

本文深入解析Calibre部分提参(Partial Extraction)的实战技巧与常见问题,涵盖PEX、hcell和xcell文件的高级应用。通过实际案例展示如何提升电路仿真效率,解决时钟信号失真等复杂问题,并提供版图设计中的防坑指南,助力芯片设计工程师优化工作流程。

weixin_28717431的博客 161

距离多普勒谱(RD谱)绘制方法及理解

RD谱是信号处理领域常用的图形。原始信号往往是一维时域序列,如何将其二维化,并进行变换生成RD谱呢?由于刚刚接触,查阅了网络上、老师手里的资料,发现RD谱的绘制方法并不统一,有些存在一定问题。在此,将心得体会记录下来。

mddh_123的博客 3万+

Agent工具工程化:成本、选择与维护三大实战难题

Agent工具(Tool)是智能体执行真实任务的核心能力单元,其本质是一类轻量级、可注册、有契约的微服务接口。随着工具数量从个位数增长至数十甚至上百,单纯依赖LLM函数调用的能力迅速遭遇瓶颈——问题不再出在模型推理或Prompt设计,而在于缺乏对工具成本结构、调度决策边界和生命周期治理的系统性工程认知。本文围绕Tool成本可见性、多工具场景下的精准路由机制、以及面向维护的元信息标准化协议三大维度展开,结合token消耗分层核算、规则+向量+LLM三级选择架构、Tool Manifest机器可读规范等落地实践

weixin_29061041的博客 304

三极管吸潮失效分析案例

案例背景三极管也称为晶体三极管,它被视为电子电路中最重要的器件之一。三极管顾名思义具有三个电极,它最主要的功能是电流放大和开关作用。本次失效案例中的三极管在仓库存放一段时间后,在PCBA测试过程中集中发生不良。分析过程1.外观检测对失效样品进行外观检测,未发现明显破损、裂纹等不良。2.X-ray检测对失效样品进行X-ray检测,金线、绑定点未发现异常。3.开封检测对失效样品进行开封检测,发现存在键合点脱落的现象,键合点附近的晶圆破损。4.SEM检测对失效样品进行SEM检测,发现晶圆键合点位置有裂纹和破损,金

sy220504的博客 1040

大模型面试被问懵?100+大厂真题+高分模板,看完直接拿offer!

今天这篇把字节、阿里、腾讯等大厂近 3 个月的 100 + 高频题拆透,连 “没项目怎么造亮点”“不会的题怎么说不扣分” 都给你备好,看完至少少走 3 个月弯路。

Y525698136的博客 662

SAP 供应商寄售(VMI)完整实现方案

摘要:本文详细讲解了SAP系统中供应商寄售(Consignment)和VMI(供应商管理库存)的实现方法。核心逻辑是物料所有权属于供应商,仅在领用时才触发采购。文章包含配置步骤(物料主数据、供应商设置、定价协议、会计科目等)、端到端操作流程(收货、库存查询、领用、结算、付款)、关键差异比较(与普通采购的区别)、核心事务码和数据表。重点说明了寄售流程无需采购订单,通过信息记录维护价格,领用时才产生应付账款的特点,并提供了常见问题解决方案和VMI进阶优化建议。

金牌架构师 1044

最新的sdio 4.0 spec 协议标准 带书签 高清完整PDF版

Part-E1-SDIO-Specification-Ver4.00-Final-120220.pdf:最新的sdio 4.0 spec 协议标准 带书签 高清完整PDF版,包括SDIO 接口的外设,SDIO 接口官方协议等。

多模态大模型开发实战:从模型选型到LoRA微调与Jetson部署

大模型技术正从纯文本向多模态融合快速演进,深度学习开发者需要掌握视觉编码器、跨模态对齐等基础原理,才能应对图文理解、目标检测等真实业务需求。以Transformer为核心的架构将图像、文本与音频统一为token序列,通过对比学习实现特征对齐,大幅提升跨模态推理能力。在多模态应用落地中,参数高效微调(如LoRA)有效降低了训练门槛,多模态RAG与Agent架构则让复杂任务具备可扩展性。同时,边缘端部署成为数据敏感场景的刚需,Jetson平台上的量化与TensorRT加速是工程落地的关键环节。本文基于实际项目经

weixin_33971977的博客 739

IMSL CNL 7.0.0 (x86-64)Crack

IMSL CNL 7.0.0 (x86-64)Crack intel的算法库破解文件,这是C++版本的破解文件

大模型面试真题解析+避坑指南,小白也能秒杀,收藏备用!

本文针对大模型面试高频问题,如Agent设计、Embedding优化、模型部署等,提供了详细的解答策略和话术模板。文章强调面试重在“答到点上”,而非“懂得多”,并分享了如何在没有真实项目的情况下“造亮点”以及应对不会的问题的技巧。通过练习真题和熟悉话术,即使是小白也能在面试中脱颖而出。最近收到几十条同学的私信,全是大模型面试的吐槽:“面字节被问‘Agent 怎么设计记忆机制’,我只知道 Agent 能调用工具,当场卡住”;

EnjoyEDU的博客 405

温度PID控制PLC程序

温度PID稳定控制程序,适用于欧姆龙PLC,对其他PLC也具有很大参考价值

STM32F407中文手册

STM32f407中文手册 本参考手册面向应用开发人员,提供有关使用 STM32F405xx/07xx、STM32F415xx/17xx、 STM32F42xxx 和 STM32F43xxx 微控制器存储器与外设的完整信息。STM32F405xx/07xx、STM32F415xx/17xx、STM32F42xxx 和 STM32F43xxx 构成一个微 控制器系列,各产品具有不同的存储器大小、封装和外设。有关订购信息以及器件的机械与电气特性,请参见数据手册。有关 ARM Cortex™-M4F 内核的信息,请参见《Cortex™-M4F 技术参考手册》。

Dify平台在物联网设备控制指令生成中的创新应用

借助Dify平台的低代码与RAG能力,系统可将自然语言高效转化为安全、准确的设备控制指令。通过可视化编排和知识增强,实现跨品牌设备的智能联动与快速集成,显著降低开发门槛并提升可靠性。

weixin_42513209的博客 708

【AI职场生存指南】:20年IT老兵亲授5大不可逆趋势与3步转型策略

本文直击AI对职场的影响,提供IT人转型实战路径。20年老兵总结5大不可逆趋势(如岗位重构、技能迭代、人机协作深化等)与3步落地策略(能力重塑、工具迁移、价值再定位)。覆盖技术岗、管理岗及跨职能场景,强调主动适应与差异化竞争力。值得收藏。

SimSolve的博客 60

LLM 文本概括实战指南:用 Prompt 实现商品评论智能摘要与关键信息提取

在信息过载的时代,海量的文献、评论与文档让人工阅读成本居高不下。本指南基于 Datawhale `llm-universe` 项目中的提示词工程教程,系统讲解如何借助大语言模型(LLM)完成**单一文本概括、按业务角度侧重摘要、关键信息提取以及批量文本概括**四大任务,并结合仓库中 `get_completion` 函数的多模型封装实现,剖析其底层调用原理,帮助你快速掌握"把信息海洋变成清晰信息源

gitblog_00424的博客 159

大模型面试通关宝典:字节/阿里/腾讯100+真题+高分模板,看完直接拿offer!

本文针对大模型面试高频考点,分三大类(Agent技术、Embedding优化、模型部署)提供真题解析与高分回答模板,并分享答题技巧(三层拆解法、避坑话术)、项目包装方法和系统设计思路。无论是有项目经验还是零基础,都能通过本文掌握大厂面试要点,避免常见错误,提升面试成功率,有效减少至少3个月的学习弯路。

m0_59162248的博客 963

PakePlus 跨平台应用打包指南:5分钟把任意网页变成桌面与移动应用

5分钟,把一个任意网页变成可发布的桌面应用或手机应用,安装包还小于5M——这就是 PakePlus 要做的事。你只需要填一个网址、调几个参数、点一次发布,剩下的编译、打包、生成安装包全部自动完成,本地无需安装复杂依赖环境。 ## 面向谁:什么时候你需要把网页变成应用 如果你手上有一个网站、Vue/React 项目,或者内部门户,想给用户一个更接近"原生软件"的体验,又不想自己搭 Tauri、E

gitblog_00867的博客 169

Rufus U 盘启动盘制作指南:3 个选择一次写对装系统

Rufus 是一款免安装的 U 盘启动盘制作工具。它把 U 盘格式化成 FAT32、NTFS 等文件系统,再把启动 ISO 镜像写进去,让一块空白 U 盘变成能装系统的启动盘。当前 4.15 版本只有一个可执行文件,采用 GPL v3 开源许可。 ## 动手前,先守住这条红线 ⚠️ 把"开始"点下去之前,有一步无法撤销:格式化和写入都只针对一块盘,选中的是哪块,清空的哪块。所以先核对 Devi

gitblog_00694的博客 448

程序员必学:大模型技术核心与应用实践

大模型技术作为当前AI领域的重要突破,通过海量数据和庞大参数规模训练出的深度神经网络,展现出强大的涌现能力和多任务处理特性。其核心原理基于Transformer架构,通过自注意力机制实现高效的上下文建模。这项技术的工程价值在于显著提升开发效率,例如在智能客服系统构建中,可将传统开发周期从两周缩短至两天。典型应用场景包括代码生成与辅助、文档自动化等开发环节,其中GPT类模型因其完善的API和丰富社区资源成为开发者首选。掌握prompt engineering和模型微调等关键技术,能有效应对大模型应用中的成本控

weixin_30952479的博客 344

大模型面试高频题解析:小白也能掌握“答到点上”技巧,附话术模板+收藏必备

近期科技圈传来重磅消息:行业巨头英特尔宣布大规模裁员2万人,传统技术岗位持续萎缩的同时,另一番景象却在AI领域上演——AI相关技术岗正开启“疯狂扩招”模式!据行业招聘数据显示,具备3-5年大模型相关经验的开发者,在大厂就能拿到50K×20薪的高薪待遇,薪资差距肉眼可见!业内资深HR预判:不出1年,“具备AI项目实战经验”将正式成为技术岗投递的硬性门槛。在行业迭代加速的当下,“温水煮青蛙”式的等待只会让自己逐渐被淘汰,与其被动应对,不如主动出击,抢先掌握AI大模型核心原理+落地应用技术+项目实操经验。

2602_95354908的博客 562

AI Native 深度全景:从概念辨析到架构落地,一篇读懂「智能原生」的每一个维度

AI Native(AI 原生 / 智能原生):从第一天起就围绕人工智能能力——尤其是大语言模型(LLM)的推理、生成与自主决策能力——进行设计与构建的系统、软件、平台或业务模式。AI 是架构的中心节点而非辅助组件,系统具备原生融合、自主决策、持续进化三大特征。关键词含义反例原生融合AI 能力与系统架构深度融合,而非简单叠加在传统 ERP 侧边栏加一个聊天机器人自主决策系统能在复杂环境中规划、调用工具、独立完成子任务每一步都需人工点击确认的「伪自动化」持续进化。

技术博客 1107
上一篇: alibaba linux3 定时下载任务未执行
下一篇: alibaba linux3 系统盘清理
model2005
博客等级 码龄18年 97粉丝 112原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值