解决AI“健忘症“:MCP上下文管理与持久化技术全攻略(值得收藏)

LightRAG:简单快速的检索增强生成框架快速上手 你是环境科学专家,提供详细且结构化的回答,并包含示例。---对话历史---{history}---知识库------响应规则---目标格式和长度:{response_type}""" response_custom = rag . query("可再生能源的主要优势是什么? 阅读详情

前言

如果说传统 AI 就像患有“健忘症”的专家,每次对话都要重新开始,那么 MCP 的上下文管理就是给 AI 装上了“永久记忆”。这不只是技术升级,而是 AI 从“对话工具”迈向“工作伙伴”的关键一步。

1、上下文管理的核心挑战

传统 AI 的记忆困境

第一、Token 限制问题:

  • Claude-3: 200K tokens ≈ 150,000 字

  • ChatGPT-4: 128K tokens ≈ 100,000 字

  • Gemini: 2M tokens ≈ 1,500,000 字

    但复杂的企业对话往往需要:

  • 历史决策记录

  • 项目背景资料

  • 技术规格文件

  • 工作流程状态 = 轻易超过任何模型的上下文限制

第二、状态丢失问题:

  • 对话前段:“我们决定使用 PostgreSQL 作为主数据库”
  • 对话中段:(讨论 API 设计、前端开发…)
  • 对话后段:“数据库用什么?”
  • AI 回答:“建议考虑 MySQL 或 PostgreSQL…”
  • 结果:AI 忘记了自己的决定!

为了优雅地解决这些问题,我们需要引入 基于 MCP 的智慧化上下文管理技术,下文我们详细剖析之。

1、MCP 的革命性解决方案

1、智能化上下文分层管理

MCP 建立了一个三层记忆架构,模拟人类的记忆模式:

  • 即时记忆层 (Session Memory)
  • 当前对话内容
  • 近期操作记录
  • 暂时工作状态
  • 工作记忆层 (Working Memory)
  • 项目相关上下文
  • 任务执行状态
  • 决策历程记录
  • 长期记忆层 (Persistent Memory)
  • 历史对话摘要
  • 学习模式记录
  • 知识库累积

2、会话管理机制

会话生命周期:

class MCPSessionManager:    def __init__(self):        self.sessions = {}        self.context_store = PersistentContextStore()
    async def create_session(self, user_id: str, project_id: str = None):        """建立新的工作会话"""        session_id = str(uuid.uuid4())
        session = MCPSession(            id=session_id,            user_id=user_id,            project_id=project_id,            created_at=datetime.now(),            context_window=ContextWindow(max_tokens=150000),            persistent_memory=await self._load_persistent_context(user_id, project_id),            working_memory=WorkingMemory()        )
        self.sessions[session_id] = session        return session
    async def restore_session(self, session_id: str):        """恢复之前的会话状态"""        if session_id in self.sessions:            return self.sessions[session_id]
        # 从持久化存储恢复        session_data = await self.context_store.load_session(session_id)        if session_data:            session = MCPSession.from_dict(session_data)            self.sessions[session_id] = session            return session
        return None
### 3、智能化上下文压缩

重要性评分机制:

class ContextImportanceEvaluator:    def __init__(self):        self.importance_factors = {            'decision_made': 1.0,            'error_encountered': 0.9,            'requirement_defined': 0.8,            'progress_milestone': 0.7,            'general_discussion': 0.3        }
    def evaluate_context_importance(self, context_item: dict) -> float:        """评估上下文项目的重要性"""        importance = 0.0
        # 基于内容类型评分        content_type = context_item.get('type', 'general_discussion')        importance += self.importance_factors.get(content_type, 0.3)
        # 基于引用频率评分        reference_count = context_item.get('reference_count', 0)        importance += min(reference_count * 0.1, 0.5)
        # 基于时间衰减        age_days = (datetime.now() - context_item['created_at']).days        time_decay = max(0.1, 1.0 - (age_days * 0.02))        importance *= time_decay
        return min(importance, 1.0)
    async def compress_context(self, context_items: List[dict], target_tokens: int):        """智能化压缩上下文到目标大小"""        # 评估所有项目的重要性        scored_items = []        for item in context_items:            score = self.evaluate_context_importance(item)            scored_items.append((score, item))
        # 按重要性排序        scored_items.sort(key=lambda x: x[0], reverse=True)
        # 选择最重要的项目直到达到目标大小        selected_items = []        current_tokens = 0
        for score, item in scored_items:            item_tokens = self._estimate_tokens(item['content'])            if current_tokens + item_tokens <= target_tokens:                selected_items.append(item)                current_tokens += item_tokens            else:                break
        return selected_items

4、实际应用:MCP Memory Keeper

项目背景与功能

MCP Memory Keeper 是一个专门为 Claude Code 设计的上下文持久化服务,解决了 AI 编程助手的记忆问题。

核心功能:
  • 跨会话记忆:保存工作历程、决策和进度
  • 项目上下文:自动关联 Git 分支和项目目录
  • 智能化频道:基于主题的上下文组织
  • 文件变更追踪:监控重要文件的修改

技术实现

数据模型设计:
-- 会话管理表CREATE TABLE sessions (    id TEXT PRIMARY KEY,    name TEXT NOT NULL,    description TEXT,    project_dir TEXT,    default_channel TEXT,    created_at DATETIME DEFAULT CURRENT_TIMESTAMP,    continued_from TEXT,    FOREIGN KEY (continued_from) REFERENCES sessions(id));
-- 上下文项目表CREATE TABLE context_items (    id TEXT PRIMARY KEY,    session_id TEXT NOT NULL,    channel TEXT,    key TEXT NOT NULL,    value TEXT NOT NULL,    category TEXT DEFAULT 'general',    priority TEXT DEFAULT 'normal',    created_at DATETIME DEFAULT CURRENT_TIMESTAMP,    reference_count INTEGER DEFAULT 0,    FOREIGN KEY (session_id) REFERENCES sessions(id));
-- 文件缓存表CREATE TABLE file_cache (    id TEXT PRIMARY KEY,    session_id TEXT NOT NULL,    file_path TEXT NOT NULL,    content_hash TEXT NOT NULL,    cached_at DATETIME DEFAULT CURRENT_TIMESTAMP,    FOREIGN KEY (session_id) REFERENCES sessions(id));
API 接口设计 :
interface MCPMemoryKeeper {    // 会话管理    sessionStart(params: {        name: string;        description?: string;        projectDir?: string;        defaultChannel?: string;        continueFrom?: string;    }): Promise<SessionInfo>;
    sessionList(params: { limit?: number }): Promise<SessionInfo[]>;
    // 上下文操作    contextSave(params: {        key: string;        value: string;        category?: 'task' | 'decision' | 'progress' | 'note';        priority?: 'high' | 'normal' | 'low';        channel?: string;    }): Promise<void>;
    contextGet(params: {        key?: string;        category?: string;        priority?: string;        channel?: string;        limit?: number;    }): Promise<ContextItem[]>;
    // 文件管理    cacheFile(params: {        filePath: string;        content: string;    }): Promise<void>;
    fileChanged(params: {        filePath: string;        currentContent: string;    }): Promise<boolean>;
    // 状态查询    status(): Promise<SessionStatus>;}

使用案例

开发工作流程:
# 1. 开始新的开发会话await mcp_context_session_start({    name: 'User Authentication Feature',    description: 'Implementing OAuth 2.0 authentication system',    projectDir: '/home/dev/myapp',    defaultChannel: 'auth-feature'});
# 2. 记录重要决策await mcp_context_save({    key: 'auth_strategy',    value: 'Using JWT tokens with 15-minute expiry and refresh tokens',    category: 'decision',    priority: 'high'});
# 3. 追踪进度await mcp_context_save({    key: 'current_progress',    value: 'Completed user model, working on authentication middleware',    category: 'progress',    priority: 'normal'});
# 4. 缓存重要文件await mcp_context_cache_file({    filePath: 'src/models/user.ts',    content: userModelContent});
# 5. 会话恢复后取得上下文const decisions = await mcp_context_get({    category: 'decision',    priority: 'high'});
const progress = await mcp_context_get({    category: 'progress'});

2、企业级持久化策略

1、分布式上下文架构

多层缓存设计:
class EnterpriseContextManager:    def __init__(self):        self.l1_cache = InMemoryCache(ttl=300)      # 5分钟内存缓存        self.l2_cache = RedisCache(ttl=3600)        # 1小时 Redis 缓存        self.l3_storage = PostgreSQLStorage()       # 永久数据库存储        self.backup_storage = S3BackupStorage()     # 云端备份
    async def save_context(self, session_id: str, context: dict):        """多层存储上下文"""        # L1: 内存缓存(最快访问)        await self.l1_cache.set(f"ctx:{session_id}", context)
        # L2: Redis 缓存(跨服务共享)        await self.l2_cache.set(f"ctx:{session_id}", context)
        # L3: 数据库存储(持久化)        await self.l3_storage.save_context(session_id, context)
        # 定期备份到云端        if self._should_backup(context):            await self.backup_storage.backup_context(session_id, context)
    async def load_context(self, session_id: str) -> dict:        """智能化载入上下文"""        # 尝试从最快的存储层开始        context = await self.l1_cache.get(f"ctx:{session_id}")        if context:            return context
        context = await self.l2_cache.get(f"ctx:{session_id}")        if context:            # 回填到 L1            await self.l1_cache.set(f"ctx:{session_id}", context)            return context
        context = await self.l3_storage.load_context(session_id)        if context:            # 回填到缓存层            await self.l2_cache.set(f"ctx:{session_id}", context)            await self.l1_cache.set(f"ctx:{session_id}", context)            return context
        return {}

2、智能化上下文同步

跨设备同步机制:
class ContextSynchronizer:    def __init__(self):        self.sync_queue = asyncio.Queue()        self.conflict_resolver = ConflictResolver()
    async def sync_context_across_devices(self, user_id: str):        """跨设备同步上下文"""        devices = await self.get_user_devices(user_id)
        for device in devices:            local_context = await self.get_device_context(device.id)            remote_context = await self.get_remote_context(user_id)
            if self._has_conflicts(local_context, remote_context):                resolved_context = await self.conflict_resolver.resolve(                    local_context,                     remote_context                )            else:                resolved_context = self._merge_contexts(                    local_context,                     remote_context                )
            await self.update_device_context(device.id, resolved_context)            await self.update_remote_context(user_id, resolved_context)

3、企业应用案例

案例一:金融业客服系统

**背景:**某大型银行需要 AI 客服能记住客户的完整服务历程。

实现:

class BankingContextManager:    async def handle_customer_interaction(self, customer_id: str, message: str):        # 载入客户历史上下文        customer_context = await self.load_customer_context(customer_id)
        # 包含:        # - 过去 30 天的服务记录        # - 产品使用状况        # - 投诉和建议历史        # - 个性化偏好设置
        # 处理当前请求        response = await self.ai_service.process_with_context(            message,             customer_context        )
        # 更新上下文        await self.update_customer_context(            customer_id,             {                'latest_interaction': message,                'ai_response': response,                'satisfaction_score': await self.detect_satisfaction(response),                'timestamp': datetime.now()            }        )
        return response

案例二:制造业设备维护

**背景:**台积电等半导体厂需要 AI 记住每台设备的完整维护历程。

实现:

class EquipmentMaintenanceContext:    async def analyze_equipment_issue(self, equipment_id: str, sensor_data: dict):        # 载入设备上下文        equipment_context = await self.load_equipment_history(equipment_id)
        # 包含:        # - 历史故障模式        # - 维护记录        # - 效能趋势        # - 相似设备经验
        # AI 分析        analysis = await self.ai_diagnostic.analyze_with_context(            sensor_data,            equipment_context        )
        # 更新设备学习记录        await self.update_equipment_context(            equipment_id,            {                'latest_analysis': analysis,                'sensor_snapshot': sensor_data,                'maintenance_action': analysis.recommended_action,                'timestamp': datetime.now()            }        )
        return analysis

4、效能最佳化策略

1、智能化预加载

class ContextPreloader:    def __init__(self):        self.usage_predictor = UsagePatternPredictor()
    async def predictive_preload(self, user_id: str):        """基于使用模式预加载上下文"""
        # 分析使用者模式        patterns = await self.usage_predictor.analyze_user_patterns(user_id)
        # 预测可能需要的上下文        likely_contexts = await self.predict_needed_contexts(patterns)
        # 预加载到缓存        for context_key in likely_contexts:            await self.preload_to_cache(context_key)

2、动态压缩算法

class AdaptiveContextCompressor:    def __init__(self):        self.compression_strategies = {            'high_importance': SummaryCompressor(),            'medium_importance': KeyPointExtractor(),            'low_importance': TimestampOnlyCompressor()        }
    async def adaptive_compress(self, context_items: List[dict], target_size: int):        """动态选择压缩策略"""
        compressed_items = []        remaining_size = target_size
        # 按重要性分组        grouped_items = self._group_by_importance(context_items)
        for importance_level, items in grouped_items.items():            compressor = self.compression_strategies[importance_level]
            if remaining_size > 0:                compressed = await compressor.compress(items, remaining_size)                compressed_items.extend(compressed)                remaining_size -= self._calculate_size(compressed)
        return compressed_items

5、安全性与隐私保护

1、上下文加密机制

class SecureContextStorage:    def __init__(self, encryption_key: bytes):        self.cipher = Fernet(encryption_key)
    async def encrypt_context(self, context: dict) -> bytes:        """加密上下文数据"""        serialized = json.dumps(context).encode('utf-8')        encrypted = self.cipher.encrypt(serialized)        return encrypted
    async def decrypt_context(self, encrypted_data: bytes) -> dict:        """解密上下文数据"""        decrypted = self.cipher.decrypt(encrypted_data)        context = json.loads(decrypted.decode('utf-8'))        return context

2、个人资料保护

class PrivacyProtectedContext:    def __init__(self):        self.pii_detector = PIIDetector()        self.anonymizer = DataAnonymizer()
    async def sanitize_context(self, context: dict) -> dict:        """清理敏感信息"""
        # 检测个人敏感信息        pii_items = await self.pii_detector.detect(context)
        # 匿名化处理        sanitized_context = await self.anonymizer.anonymize(            context,             pii_items        )
        return sanitized_context

6、监控与分析

1、上下文使用分析

class ContextAnalytics:    def __init__(self):        self.metrics_collector = MetricsCollector()
    async def analyze_context_usage(self, session_id: str):        """分析上下文使用效率"""
        metrics = {            'context_hit_rate': await self._calculate_hit_rate(session_id),            'compression_ratio': await self._calculate_compression_ratio(session_id),            'retrieval_latency': await self._calculate_retrieval_latency(session_id),            'storage_efficiency': await self._calculate_storage_efficiency(session_id)        }
        return metrics

7、小结:智能化记忆的未来

MCP 的上下文管理与持久化技术不只是解决了 AI 的“健忘症”,更是为 AI 赋予了学习和成长的能力。

核心价值:

  • 连续性:跨会话保持工作状态和决策记录
  • 智能化性:自动评估和管理上下文重要性
  • 可扩展性:支持企业级的大规模部署
  • 安全性:保护敏感信息和个人隐私

这项技术将 AI 从“一次性工具”升级为“长期伙伴”,这正是企业数字化转型所需要的 AI 能力。

最后

为什么要学AI大模型

当下,⼈⼯智能市场迎来了爆发期,并逐渐进⼊以⼈⼯通⽤智能(AGI)为主导的新时代。企业纷纷官宣“ AI+ ”战略,为新兴技术⼈才创造丰富的就业机会,⼈才缺⼝将达 400 万!

DeepSeek问世以来,生成式AI和大模型技术爆发式增长,让很多岗位重新成了炙手可热的新星,岗位薪资远超很多后端岗位,在程序员中稳居前列。

在这里插入图片描述

与此同时AI与各行各业深度融合,飞速发展,成为炙手可热的新风口,企业非常需要了解AI、懂AI、会用AI的员工,纷纷开出高薪招聘AI大模型相关岗位。
在这里插入图片描述
最近很多程序员朋友都已经学习或者准备学习 AI 大模型,后台也经常会有小伙伴咨询学习路线和学习资料,我特别拜托北京清华大学学士和美国加州理工学院博士学位的鲁为民老师给大家这里给大家准备了一份涵盖了AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频 全系列的学习资料,这些学习资料不仅深入浅出,而且非常实用,让大家系统而高效地掌握AI大模型的各个知识点。

这份完整版的大模型 AI 学习资料已经上传优快云,朋友们如果需要可以微信扫描下方优快云官方认证二维码免费领取【保证100%免费】

AI大模型系统学习路线

在面对AI大模型开发领域的复杂与深入,精准学习显得尤为重要。一份系统的技术路线图,不仅能够帮助开发者清晰地了解从入门到精通所需掌握的知识点,还能提供一条高效、有序的学习路径。

img

但知道是一回事,做又是另一回事,初学者最常遇到的问题主要是理论知识缺乏、资源和工具的限制、模型理解和调试的复杂性,在这基础上,找到高质量的学习资源,不浪费时间、不走弯路,又是重中之重。

AI大模型入门到实战的视频教程+项目包

看视频学习是一种高效、直观、灵活且富有吸引力的学习方式,可以更直观地展示过程,能有效提升学习兴趣和理解力,是现在获取知识的重要途径

在这里插入图片描述
光学理论是没用的,要学会跟着一起敲,要动手实操,才能将自己的所学运用到实际当中去,这时候可以搞点实战案例来学习。
在这里插入图片描述

海量AI大模型必读的经典书籍(PDF)

阅读AI大模型经典书籍可以帮助读者提高技术水平,开拓视野,掌握核心技术,提高解决问题的能力,同时也可以借鉴他人的经验。对于想要深入学习AI大模型开发的读者来说,阅读经典书籍是非常有必要的。
在这里插入图片描述

600+AI大模型报告(实时更新)

这套包含640份报告的合集,涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师,还是对AI大模型感兴趣的爱好者,这套报告合集都将为您提供宝贵的信息和启示。
在这里插入图片描述

AI大模型面试真题+答案解析

我们学习AI大模型必然是想找到高薪的工作,下面这些面试题都是总结当前最新、最热、最高频的面试题,并且每道题都有详细的答案,面试前刷完这套面试题资料,小小offer,不在话下
在这里插入图片描述

在这里插入图片描述

这份完整版的大模型 AI 学习资料已经上传优快云,朋友们如果需要可以微信扫描下方优快云官方认证二维码免费领取【保证100%免费】

Rerank模型哪款最强?详解如何轻松集成到你的项目中! 新的reranker模型:发布跨编码器模型 BAAI/bge-reranker-base 和 BAAI/bge-reranker-large ,它们比嵌入模型更强大。所以,当在RAG 项目中,使用Embedding 求出topN的时候,N可以大一点儿,然后重新组织问题和检索出来的答案。比如,question是问题,top_n_answers是Embedding返回的结果,得到Rerank的新数据结构。几乎所有的Embeddings都在重排之后显示出更高的命中率和MRR,所以rerank的效果是非常显著的。 阅读详情

相关推荐

Agent Skill 火爆全网:创建你的第一个技能,开启渐进式智能体

无限的知识容量:通过脚本和外部文件,技能可以"携带"远超上下文限制的知识。我们从什么是 Agent Skill 讲起,剖析它如何解决“上下文爆炸”,如何通过“渐进式披露”优化上下文长度,并手把手教你在 Open Code 中创建你的第一个 Skill。我们的AI社群聚集了一线AI高手, 每月一期AI训练营,社群陪跑,专属直播,专注于 扣子、Dify、n8n 等主流智能体平台的实战落地。我们常说大模型有 128K 甚至 1M 的上下文窗口,但在实际应用中,我们发现了一个扎心的事实:给的越多,错得越多。

互联网架构师笔记 5320

开源AI新协议!AI Agent与前端交互的轻量级协议,轻松构建交互式AI应用!

AI Agent 的兴起让前端交互需求激增,但传统开发中,连接Agent后端与前端需大量定制代码,效率低下。 在 MCP(模型上下文协议)、A2A(Agent-to-Agent 通信协议)之后,AI Agent 的生态正在走向一个更完整的方向:AG-UI 协议横空出世,专为 Agent 与前端应用的通信交互而设计。

bugyinyin的博客 2053

latex使用overleaf插入多行图片

对于一般的latex模板,可以使用下面方式: (1)现在模板最前面的加入包 \usepackage{graphicx} \usepackage{subfigure} (2) 使用下面代码插入图片 \begin{figure}[htbp] \centering \subfigure[pic1.]{ \includegraphics[width=5.5cm]{pic1.png} } \quad \subfigure[pic2.]{ \includegraphics[width=5.5cm]{pic

Look Forward To 1万+

LightRAG – 香港大学推出的开源检索增强生成系统

LightRAG是由香港大学研究团队推出的一种检索增强生成(Retrieval-Augmented Generation, RAG)系统,基于整合图结构索引和双层检索机制,提升大型语言模型在信息检索中的准确性和效率。系统能捕捉实体间的复杂依赖关系,全面理解信息,处理具体和抽象查询,确保用户获得既相关又丰富的响应。LightRAG具备快速适应新数据的能力,在动态环境中保持高效和准确,基于增量更新算法及时整合新数据,无需重建整个知识库。

u010291330的博客 4003

kali设置安装burpsuite中文版

工具:通过网盘分享的文件:Burpsuite 链接:提取码: jay1。

m0_74786138的博客 5202

团结引擎+OpenHarmony 记录 (持续更新中)

获取不到的原因是因为二者不在同一个线程中,所以数据没有同步。而 globalThis.context 数据进行了同步。(TuanjieMainWorkerHandler.ts中可以看到)在进行绘制 UI 的时候 ,如果组件有 Native API 就可能不会显示出来,例如 web 控件就不能展示出来,刚加上权限的时候 会报错 因为缺少 reason ,添加上就不会报错了。只有纯 UI 控件是可以展示出来的,注释掉 web控件后就可以。

m_cainiaokuaifei的博客 1492

LightRAG开源了!轻巧、强大,GraphRAG的进化版

现有的RAG系统老是搞不清复杂关系,答案经常被切碎,缺乏上下文,难以真正理解问题。而LightRAG就是来解决这些问题的,它把图结构引入文本索引和检索,采用,从低到高全面覆盖信息。更酷的是,它还能更新数据,保持实时高效的响应,而且它已经开源了哦!并且你现在可以通过简单的API调用来实现多种检索模式,包括本地、全局和混合检索。

2401_84208172的博客 8497

OPTI Toolbox v2.28 安装与 3 个求解器补全:SCIP、SeDuMi、MOSEK 配置详解

本文详细介绍了OPTI Toolbox v2.28在MATLAB环境下的完整安装指南,包括SCIP、SeDuMi和MOSEK三个关键求解器的配置与优化技巧。通过分步指导和实战案例,帮助用户高效搭建强大的优化工具包,提升混合整数规划、二次约束二次规划等复杂问题的求解效率。

weixin_29039773的博客 350

MonkeyOCR从理论到实践——保姆级教程

MonkeyOCR:本文提出“结构-识别-关系”(SRR)三元组范式,实现了高效且精准的文档解析。其3B参数模型在英文文档解析任务中超越了Gemini 2.5 Pro和Qwen2.5-VL-72B。 在对多页文档解析场景下,处理速度达每秒0.84页,显著优于MinerU(0.65页/秒)和Qwen2.5-VL-7B(0.12页/秒)。

guopeiAI 5276

用Python进行GEO数据挖掘(学习笔记四):富集分析

该笔记详细解释了富集分析的工作原理,并简要地利用gseapy在python中进行富集分析的操作。

m0_64111502的博客 5649

Docker:快速部署 Temporal 工作流引擎的技术指南

Temporal是一个开源的分布式工作流引擎,适用于复杂业务流程(如订单处理、支付流程等),提供状态持久化、自动重试、多语言SDK支持等特性。部署简单,支持Docker Compose,包含核心服务、Web UI及数据库。以TypeScript为例,开发者可快速编写工作流(如订单处理)和Worker,通过CLI或SDK启动和管理。Temporal简化了分布式系统的可靠性设计,适合电商、自动化任务等场景。

木头 641

只有3B参数开源OCR大模型!MonkeyOCR媲美MinerU+Gemini 2.5 Pro +Qwen2.5-VL+olmOCR!真实测评+保姆级部署教程!三分钟打造自己的PDF扫描件OCR

MonkeyOCR是一个基于Structure-Recognition-Relation (SRR)三元组范式的轻量级文档解析模型,由华中科技大学和金山办公联合开发。该模型专门用于文档解析任务,能够处理中英文文档。

m0_71165399的博客 3818

YOLOv10改进策略【注意力机制篇】| 2024 蒙特卡罗注意力(MCAttn)模块,提高小目标的关注度

本文记录的是基于蒙特卡罗注意力(MCAttn)模块的YOLOv10目标检测改进方法研究。利用提高的跨尺度特征提取能力,使模型能够更好地传递和融合提取的多尺度特征,提高对小目标的关注度。Exploiting Scale-Variant Attention for Segmenting Small Medical Objects使用一种基于随机采样的池化操作来生成尺度无关的注意力图。它从三个不同尺度(3×33×33×3、2×22×22×2和1×11×11×1,即池化张量)中随机选择一个1×11×11×1注意力图

Limiiiing的博客 2188

大模型入门到精通之GraphRAG、LightRAG、AgenticRAG,如何选择?

如果你真的想学习大模型,请不要去网上找那些零零碎碎的教程,真的很难学懂!你可以根据我这个学习路线和系统资料,制定一套学习计划,只要你肯花时间沉下心去学习,它们一定能帮到你!

2401_85375186的博客 1847

uniapp - 实现苹果App打包上架App Store应用商店详细教程,详解Hbuilder打包编译ipa发布上传到苹果ios软件商店全流程,提供云打包/离线本地打包ios、申请IOS苹果证书方法

uni-app,苹果ios,苹果app,打包编译,appstore应用商店,ipa发布到软件商店,uniapp的app苹果应用商店上架,上架苹果APPStore,uniApp打包的ipa文件上传到商店,上架苹果商城,审核失败,被拒绝,UniApp打包ipa文件,上架iOSAppStore流程指南,最新详细教程最全,Hbuilder打包发布iosapp,苹果云打包上线全过程,云打包IPA并上传到商店,打包iOSipa文件后怎么发布到应用商店,苹果证书申请教程,ios证书申请,mac电脑,审核很久

🏆 前端领域优质创作者 1万+

ssm框架搭建

这个是一个在idea上成功跑起来的ssm框架项目,保存在这里方便以后使用直接下载

使用大模型检索增强 Rerank 模型,检索效果提升太明显了!

RAG 是一种结合了信息检索和文本生成的语言模型技术。简单来说,当你向大语言模型(LLM)提出一个问题时,RAG 首先会在一个大型的文档集合中寻找相关信息,然后再基于这些信息生成回答。Rerank 的工作就像是一个智能的筛选器,当 RAG 从文档集合中检索到多个文档时,这些文档可能与你的问题相关度各不相同。有些文档可能非常贴切,而有些则可能只是稍微相关或者甚至是不相关的。这时,Rerank 的任务就是评估这些文档的相关性,然后对它们进行重新排序。它会把那些最有可能提供准确、相关回答的文档排在前面。

2201_75499313的博客 7132

LinePhone3.2.7(android端最新版本) sip客户端

SIP客户端For android:LinePhone3.2.7(最新版本),官网地址:http://www.linphone.org/

使用weaviate实现向量存储

当下开源的向量数据库比较多,主要分嵌入式向量数据库(数据库和应用在一起)和客户端-服务器模型向量数据库(客户端和服务器分离),比较出名数据库如下:嵌入式包括Chroma、lancedb,客户端和服务器分离的包括:Milvus、Faiss、Qdrant和Weaviate等。本文选择Weaviate。Weaviate是一个人工智能原生矢量数据库,强调与知识图的灵活高效交互,支持单节点和集群部署,支持关键词检索和语义检索。

make_progress的博客 5235

老版QQ原生表情gif动态

这是老版的QQ表情,不过全是动态的的,Windows照片查看器是不会动的,可以右击用浏览器打开查看,再说一遍是老版的,只是分享给宁愿用老版也要动态的人。

Data-Structures-and-Algorithm-Analysis-in-Java.pdf

作者: Weiss, Mark A. 出版社: Addison Wesley Data Structures and Algorithm Analysis in Java is an “advanced algorithms” book that fits between traditional CS2 and Algorithms Analysis courses. In the old ACM Curriculum Guidelines, this course was known as CS7. This text is for readers who want to learn good programming and algorithm analysis skills simultaneously so that they can develop such programs with the maximum amo...

高效编写大模型 Prompt 提示词,解锁 AI 无限创意潜能

随着 ChatGPT 的出现,AI 成为新的焦点,有人说过“未来 50%的工作将是提示词工作”,目前很多公司也在开始招聘 Prompt 提示词工程师。Prompt(提示词)成为了连接创意与技术的桥梁,它不仅是简单的指令,更是激发 AI 潜能的关键。从文章编写到艺术创作,从文本摘要到语言润色,Prompt 的恰当使用能够极大地提升输出的质量与效率。本文将探讨如何编写高效、精准的 Prompt 提示词,最后通过应用场景来具体分析……

老牛啊 2231

一文搞懂GraphRAG、LightRAG、AgenticRAG,看这一篇就够了!

一文搞懂GraphRAG、LightRAG、AgenticRAG,看这一篇就够了!

xxue345678的博客 1万+

【RAG落地利器】向量数据库Weaviate部署与使用教程

Weaviate 是一种开源的向量搜索引擎数据库,允许以类属性的方式存储 JSON 文档,并将机器学习向量附加到这些文档上,以在向量空间中表示它们。Weaviate 支持语义搜索、问答提取、分类等功能,并且可以通过 GraphQL-API 轻松访问数据。

Android23333的博客 9082

让RAG更进一步的利器:教你使用两种出色的Rerank排序模型

有意思的是,这里的前两名的排名结果刚好和未经过Rerank之前的排名相反!简单的说,Rerank就是对检索出来的多个chunks(或者nodes)列表进行重新排序,使得其排名与用户输入问题的相关性更匹配,使得更相关、更准确的chunk排名更靠前,从而在 LLM生成时能够被优先考虑以提高输出质量。• 能够完成时下热门大模型垂直领域模型训练能力,提高程序员的编码能力: 大模型应用开发需要掌握机器学习算法、深度学习框架等技术,这些技术的掌握可以提高程序员的编码能力和分析能力,让程序员更加熟练地编写高质量的代码。

m0_63171455的博客 1万+

PD 分离推理架构详解

PD 分离大模型推理中的一种架构优化策略,核心思想是把 prefill 阶段和 decode 阶段分开,由不同的 GPU 或实例分别承担。通过分离架构,系统可以针对 prefill(计算密集型)和 decode(内存密集型)的不同特性分别优化资源配置和并行策略,从而在满足 TTFT 和 TPOT SLO 约束的前提下显著提升有效吞吐量(Goodput)。虽然 PD 分离需要在 GPU 间传输 KV Cache,但通过高速互联网络和优化的传输策略,这一开销可以被有效隐藏。

cr7258的博客 4604

为什么 RAG 一定需要 Rerank?

尽管 Rerank 模型的运行速度较慢,但其在准确性上的优势使其在许多场景中不可或缺。通过两阶段检索系统,我们可以在第一阶段快速筛选出候选文档,然后在第二阶段通过 Rerank 模型进行精细排序,从而在保证效率的同时,显著提升检索结果的质量。这种策略在处理复杂的问答任务和生成任务时尤为重要,因为它能够确保最终返回的文档不仅数量适中,而且相关性更高。

python12345_的博客 945

大模型推理-基于prefill和decode阶段特性,PD分离,势在必行!

• 服务级目标 service level objectives (SLO):为提供一个满意的用户体验,大模型推理服务需要满足的一系列指标,一般包括首字延迟 (TTFT),平均出词时间(TPOT),端到端延迟(E2E),指数移动平均(EMA)。• 首字延迟 time to first token latency (TTFT):模型服务产生首字的延迟时间。• 平均出词时间 time per output token (TPOT):模型服务生成单字的平均时间,生成token的总时间处于总token数量。

2401_84495872的博客 4154

ollama本地部署LightRAG(已跑通)

安装ollama,ollama官网提供的方法速度比较慢,经常容易出现中断的现象。首先需要将LightRAG的项目拉到本地,具体可以参考github的项目,至此,通过ollama本地部署LightRAG完成。,将llm_model_name修改成。首先将ollama服务开启。

weixin_63866037的博客 1万+

一文看懂Agent Skills带来的AI变革!

Skills 通过指令和代码为 Claude 提供新功能,虽然这使它们功能强大,但也意味着恶意 Skill 可以指导 Claude 以与 Skill 声称的目的不匹配的方式调用工具或执行代码。Skills 是可重用的、基于文件系统的资源,为 Claude 提供特定领域的专业知识:工作流、上下文和最佳实践,将通用代理转变为专家。Claude 在具有文件系统访问权限的虚拟机中运行,允许 Skills 作为包含指令、可执行代码和参考资料的目录存在,组织方式就像你为新团队成员创建的入职指南。

JavaEdge全是干货的技术号 4202
上一篇: 【RAG进阶】提升RAG检索精度的三重魔法:查询转换技术详解,程序员必学必收藏!
下一篇: 大模型RAG核心技术:信息检索如何打造AI“超级大脑“?看完这一篇你就知道了!!
Agent学习路线
博客等级 码龄6年 1万+粉丝 1904原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值