- 博客(671)
- 收藏
- 关注
RSS订阅
原创 DeepSeek R1 671B 完整版本地部署教程来了！！！
关于本地部署，大多数人使用的是蒸馏后的8B/32B/70B版本，本质是微调后的Llama或Qwen模型，并不能完全发挥出DeepSeek R1的实力。然而，完整的671B MoE模型也可以通过针对性的量化技术压缩体积，从而大幅降低本地部署门槛，乃至在消费级硬件（如单台Mac Studio）上运行。那么，如何用 ollama 在本地部署 DeepSeek R1 671B（完整未蒸馏版本）模型呢？一篇在海外热度很高的简明教程即将揭晓。作者主页：https://snowkylin.github.io。
2025-02-05 16:12:23
11064
1
原创 深入浅出 AI 智能体（AI Agent）｜技术干货
随着人工智能技术的飞速发展，智能体（AI Agents）正逐渐成为人与大模型（如大语言模型）交互的主要方式。智能体是能够执行任务、解决问题并提供服务的 AI 系统，它们通过模拟人类的行为和决策过程，使得与大模型的交互更加自然、高效和个性化。智能体作为人与大模型交互的桥梁，不仅提高了交互的效率和质量，还扩展了大模型的应用范围。随着技术的不断进步，智能体将更加深入地融入我们的日常生活，成为不可或缺的智能伙伴。智能体（英文名：AI Agent 或 AI Bot）是指能够感知其环境并采取行动以实现某种目标的实体。
2025-01-04 17:14:34
18691
1
原创 五款国产AI大模型大测评！Kimi，智谱清言，通义千问，文心一言，豆包谁更胜一筹？
AI大模型是指具有巨大参数量的深度学习模型，通常包含数十亿甚至数万亿个参数。原理主要基于深度学习技术，特别是神经网络和大规模数据的训练，它们通过分析大量数据来学习语言模式、知识表示和任务执行策略。AI大模型的训练过程通常包括以下几个步骤：数据预处理：对原始数据进行清洗、整理和标注，包括去除噪声、填充缺失值、归一化等操作；模型构建：设计并搭建神经网络，这包括确定网络的层次结构、神经元数量、激活函数等；模型训练：将预处理后的数据输入到神经网络中，不断调整神经元的连接权重使模型达到满意的性能；
2024-10-28 11:26:42
46379
原创 Ollama：一个在本地部署、运行大型语言模型的工具
所谓自定义模型就是不适用Ollama官方模型库中的模型，理论可以使用其他各类经过转换处理的模型Ollama库中的模型可以通过提示进行自定义。# 设置温度参数# 设置SYSTEM 消息SYSTEM """作为AI智能助手，你将竭尽所能为员工提供严谨和有帮助的答复。"""Modelfile文档One-API是一个OpenAI接口管理 & 分发系统，支持各类大模型。这里使用Docker快速进行部署。拉取镜像创建挂载目录启动容器访问IP:3001初始账号用户名为 root，密码为 123456。
2024-05-28 10:30:57
7504
原创 【大模型实战案例】手把手教大家微调大模型 Llama 3
Llama 3 近期重磅发布，发布了 8B 和 70B 参数量的模型，我们对 Llama 3 进行了微调！！！今天手把手教大家使用 XTuner 微调 Llama 3 模型。
2024-04-23 18:09:27
4517
2
原创 OpenAI的官方Prompt工程指南详解 - 看这一篇真的就够了
这个技巧偏开发者。普通用户可以跳过。因为模型具有固定的上下文长度，因此用户和助手之间的对话无法无限期地继续。解决此问题有多种解决方法，第一个是总结对话中的历史记录。一旦输入的大小达到预定的阈值长度，这可能会触发总结部分对话的查询，并且先前对话的摘要可以作为系统消息的一部分包括在内。或者，可以在整个对话过程中在后台异步总结之前的对话。这两种方法都行，或者还可以把过去的所有聊天记录存成向量库，后续跟用户对话的时候动态查询嵌入，也可以。
2024-04-10 10:42:26
12098
原创 【小白教学】DeepSeek+即梦AI，轻松打造专属于自己的数字人，条条视频过万！
你是不是也想做情感类的短视频，但又不想露脸、拍摄，或者花太多钱？今天我给大家分享一个超级简单又实用的“神操作”，用Deepseek和即梦AI制作情感数字人短视频，不仅省时省力，还能让你轻松制作出爆款内容！别再担心复杂的拍摄、剪辑了，直接照着我教的步骤来，分分钟搞定！下面就让我带你一起看看具体怎么做吧！首先，做短视频最关键的就是找一个好的模板。如果没有灵感，完全可以“借用”一些已经火起来的视频。这不仅能省去很多时间，还能确保你的视频有一个成功的起点。那怎么挑选合适的视频呢？其实不复杂。
2025-04-01 13:34:32
319
原创 一文读懂智能体(Agent):未来AI的“全能助手”
以手机上的智能语音助手为例，当你对它说 “帮我查询明天的天气” 时，它能迅速“听” 到你的指令（感知环境），然后在后台分析处理这条指令（做出决策），接着通过网络搜索获取天气信息，并把结果反馈给你（与环境交互），这就是一个简单的智能体工作过程。字节跳动的扣子 AI 平台凭借字节跳动在算法、数据等方面的优势，致力于打造通用、高效且智能的智能体开发平台，支持内容创作、智能客服、智能家居等多领域智能体开发，在内容创作辅助方面表现尤为突出，能根据用户提供的关键词、主题等信息快速生成高质量文本内容。
2025-04-01 10:53:40
407
原创 如何用DeepSeek 30秒爆改废物简历！
一个打工人充满期待、收割Offer的黄金时刻，你是否也在求职路上感到别担心！今天为你带来一份一份跟着我，一起来看看 DeepSeek 如何帮你优化简历，让你的求职之路不再迷茫！
2025-03-31 14:58:00
641
原创 简单易懂的介绍什么是RAG
（RAG，Retrieval-Augmented Generation）技术通过重构系统架构有效突破了这些限制：其核心在于将知识存储从模型参数中解耦，构建动态更新的外部知识库，在收到查询时首先进行多维度检索（包括语义相似度、关键词匹配和时效性过滤），再将检索到的权威资料与用户指令共同输入生成模型。这种机制使系统能够实时整合最新信息（如金融市场数据），精准调用专业文档（如设备维修手册），并严格限制生成内容的知识边界。
2025-03-31 14:38:04
713
原创 阿里再开源多模态大模型Qwen2.5-Omni
多模态模型成为了研究与应用的热门领域。其中，阿里巴巴团队研发的 Qwen2.5-Omni 脱颖而出，以其创新的架构设计、卓越的性能表现以及丰富的应用场景，为多模态交互带来了全新的解决方案，引领着人工智能迈向更加智能、自然的交互时代。
2025-03-29 10:59:14
1024
原创 RAG系列：基于 DeepSeek + Chroma + LangChain 开发一个简单 RAG 系统
接下来是进阶篇，你将掌握RAG、Agent、Langchain、大模型微调和私有化部署，学习如何构建外挂知识库并和自己的企业相结合，学习如何使用langchain框架提高开发效率和代码质量、学习如何选择合适的基座模型并进行数据集的收集预处理以及具体的模型微调等等。该系统包括检索器与生成器两部分，具体工作流程如下：对于用户输入的问题，检索器先搜索与该问题相关的文档，接着将检索到的文档与初始问题一起传递给生成器，即大语言模型，最后将模型生成的答案返回给用户。当然这些问题啊，也不是三言两语啊就能讲明白的。
2025-03-29 10:54:21
1002
原创 DeepSeek-R1大模型本地部署
RAG 技术的核心是检索，想要让 AI 具备知识库的能力，首先得把知识库转换成它能理解的格式，而这就需要Embedding（向量嵌入）技术。Embedding 的作用将文本转化为 AI 可理解的高维向量。例如，“苹果”和“梨”在向量空间中会更接近，而“苹果”和“计算机”则相距较远。提高相似度匹配的能力。当你向 AI 提问时，它会把你的问题转换成向量，然后在本地知识库里找到最相关的内容，再给出答案。Embedding 的应用场景企业内部文档搜索：让 AI 帮你查找公司政策、客户资料等。
2025-03-28 14:25:38
642
原创 终于把AI大模型三种模式agent、copilot、embedding弄清楚了
嵌入模式将大模型作为后台组件集成到现有应用或服务中，增强其智能化能力，但不直接向用户暴露全部功能。其核心目标是提升现有系统的效率和用户体验。
2025-03-28 14:10:55
646
原创 DeepSeek 与 ChatGPT 深度对比：谁更胜一筹？
在人工智能的汹涌浪潮中，大语言模型持续改写自然语言处理的版图。DeepSeek 和 ChatGPT 作为其中的杰出代表，备受各界关注。尽管两者都具备强大的语言处理能力，但在诸多关键层面上有着显著差异，为不同需求的用户提供了丰富多元的选择。从研发背景和技术架构来看，ChatGPT 由 OpenAI 精心打造，以 Transformer 架构为核心。这一架构赋予它强大的并行处理能力，能够高效分析和理解大规模文本数据，尤其在多轮对话和复杂语义理解方面表现卓越。
2025-03-27 10:44:50
717
原创 国产/开源AI Agent生态：选型与应用展望
AI Agent生态正迎来多元化发展，国际框架如LangChain、Auto-GPT凭借成熟度和全球社区支持，仍是许多用户的首选；而国产框架如Dify、LangChain-Chatchat通过与ChatGLM、MOSS、DeepSeek等大模型的结合，为国内用户提供了成本效益高、本地化强的选择。从趋势来看，AI Agent在国内外都处于蓬勃探索期，未来或将出现更多功能丰富、面向产业落地的国产方案，在与大模型深度融合与多模态扩展方面可能涌现创新机遇，Agent市场将呈现多家竞争格局；
2025-03-27 10:31:07
662
原创 深度长文｜注意力机制：LLM 长文本处理的“灵魂”？数据告诉你真相
尽管 LLM 在许多任务上都表现出色，但它们在处理长文本时却常常显得力不从心。一个常见的现象是，当 LLM 处理一篇长文章时，往往会“忘记”文章开头的内容，导致推理和判断出现偏差。这种“短时记忆”的局限，严重制约了 LLM 的应用场景。例如，在法律领域，律师需要分析大量的法律文件，才能找到对案件有利的证据。如果 LLM 无法有效地处理这些长文本，就难以发挥其应有的价值。在医疗领域，医生需要查阅患者的病历、检查报告等信息，才能做出准确的诊断。如果 LLM 无法有效地整合这些信息，就可能导致误诊或漏诊。
2025-03-26 10:44:21
694
原创 DeepSeek新V3上线，和R1搭配食用最佳
DeeSeek昨天晚上更新了一波他们的v3模型，版本号来到了DeepSeek-V3-0324，而且直接开源了。经网友评测，这次的V3-0324性能介于Claude 3.5 Sonnet到Claude 3.7 Sonnet之间，非常够用。之前大热的DeepSeek-R1模型大家都非常熟悉了，那这次更新的V3模型有什么特点，和R1模型有什么区别，该如何选择？一起来了解一下吧。R1版：主打推理任务，专攻解决复杂问题，适合深度逻辑分析。V3版：多功能大型语言模型，在于可扩展性和高效率，适合各种语言处理任务。
2025-03-26 09:45:24
1059
原创 从零到一搭建RAG系统，高效利用大模型实现RAG知识库，工作原理+实战部署
RAG（Retrieval-Augmented Generation，检索增强生成）是一种结合了信息检索和文本生成的技术框架，旨在通过引入外部知识库来提升生成模型（如GPT等）的准确性和可靠性。RAG知识库是这一技术的核心组成部分，它存储了结构化或非结构化的海量数据（如文档、网页、数据库等），供模型在生成答案时动态检索并参考。
2025-03-25 10:43:44
830
原创 DeepSeek R1 的 GRPO 科普
GRPO通过群体优化和动态正则化，解决了传统RL的资源消耗与稳定性问题，成为DeepSeek R1在推理任务中的核心技术。其跨模态通用性（视觉、音频）和高效训练特性，为AI模型的自我进化提供了新范式。未来，结合基座模型优化与偏见修正（如Dr. GRPO），将进一步释放其潜力。我的DeepSeek部署资料已打包好（自取↓）但如果你想知道这个工具为什么能“听懂人话”、写出代码 甚至预测市场趋势——答案就藏在大模型技术里！❗️为什么你必须了解大模型？
2025-03-25 10:31:55
730
原创 Spring AI+DeepSeek，10分钟快速构建本地化AI对话系统！
本地环境使用Docker进行部署，可以大大节省环境配置的工作量，同时减少组件对系统性能的影响。在不开发时，关闭Docker，还能避免各种干扰。对于还不熟悉Docker的同学，建议尽快学习掌握这一强大工具。由于很多教程都是基于Linux系统的，这里我们详细讲解一下在Windows本地环境下的搭建步骤。首先，访问docker官网，根据你的系统选择合适的版本进行下载和安装。安装完成后，进入PowerShell，输入指令docker ps，如果能看到相关输出，说明Docker安装成功。
2025-03-24 10:49:51
797
原创 你真的懂 LLM 吗？揭秘大语言模型的核心奥秘！
人工智能（AI，Artificial Intelligence）是指让机器具备人类智能的能力，使其能够执行如感知、推理、决策、学习和创造等任务。AI 的发展经历了多个阶段，从最早的基于规则的专家系统，到如今的深度学习和神经网络驱动的智能系统，使得 AI 具备了更强的学习能力和泛化能力。计算机视觉（CV）：如人脸识别、图像分类、目标检测等。自然语言处理（NLP）：如机器翻译、文本摘要、语音识别等。机器人技术：如自动驾驶、机械臂、智能家居等。决策系统：如推荐系统、智能调度、金融风控等。其中，
2025-03-24 10:39:19
967
原创 AI大模型·白皮书 | A I技术全景入门分享（78页 PPT）
从 AI 的基础概念、核心算法，到机器学习、深度学习等热门领域，都将深入浅出地讲解。无论你是对 AI 感兴趣的小白，还是想进一步夯实基础的爱好者，都能在分享中收获满满。专业人士将结合实际案例，为你剖析 AI 在各行业的应用，带你探索 AI 的无限可能，开启这场精彩的 AI 学习之旅，一同迈向智能时代。
2025-03-22 17:08:06
206
原创 AI大模型·白皮书 | 2025从Deepseek到Manus：Al如何重塑企业价值报告（PPT 可编辑）
报告围绕生成式AI与通用智能体(如Deepseek和Manus)的技术突破，阐释AI如何通过降本增效、重构商业模式、加速行业智能化升级等路径重塑企业价值，并结合金融、制造、零售、教育等领域的实践案例，为企业提供从战略定位到场景落地的全链条AI转型方法论，助力企业在AI时代抢占先机。在人工智能技术迅猛发展的今天，AI正以前所未有的速度改变着企业的运营模式与竞争格局。从DeepSeek的火爆出圈到Manus的横空出世，AI技术不仅为企业带来了效率的提升和成本的降低，更重塑了企业的价值链条。
2025-03-22 16:45:32
278
原创 AI大模型·白皮书 | 2025私域大模型部署白皮书-超云-59页
报告：2025私域大模型部署白皮书-超云-59页大模型是人工智能发展的重要方向，其必要性体现在推动技术进步、促进经济发展、提升国家竞争力等多个层面。发展 大模型已成为全球共识，也是我国实现科技自立自强、建设科技强国的必然选择。 私域大模型正在重写智能化的底层语法—它不是算力的 军备竞赛，而是认知边疆的开拓征途。 AI 大模型近年来在模型规模、架构创新、算法优化、训练方法、场景应用等方面上取得了显著突破，但在实际应用中仍 面临诸多挑战：高端算力芯片成本高昂且供应受限、闭源模型私域部署困境、国产芯片生态适配难题
2025-03-22 16:08:16
224
原创 DeepSeek-R1大战豆包、Kimi，国产AI大模型第一花落谁家？
日活用户突破2000万，与中国移动、华为、金山办公、吉利汽车等企业相继达成合作，DeepSeek迎来了高光时刻。在互联网巨头争相进入AI行业的今天，企业为实现技术领先，纷纷斥巨资买数据和算力芯片，打造万卡集群。然而DeepSeek却选择了与众不同的以“花小钱办大事”路线，推出的V3模型训练成本仅557.6万美元，最新的R1模型，则以V3模型为基座，号称能力不输OpenAI开发的o1大模型。
2025-03-22 14:52:57
930
原创 知识图谱 + RAG：让大模型检索更精准
知识图谱能够有效解决这些问题，通过结构化的知识表达，使检索和生成更具逻辑性和精准性。知识图谱（Knowledge Graph, KG）是一种用于表示和存储结构化知识的数据模型。将知识图谱与 RAG 结合，可以大幅提升大模型的检索精度和生成质量。
2025-03-22 11:32:24
998
原创 「DeepSeek-V3 技术解析」：DeepSeekMoE
在 LLM（大语言模型）中，MoE 通常是指用 MoE 层替换 Transformer 模型中的 FFN（前馈神经网络）层，如下图所示：图 1. MoE 层示意图，图片来自 GShard 论文[5]具体来说，左侧展示的是由 N 个 Transformer 层组成的堆叠结构，每层包含一个 MHA（多头注意力）子层和一个 FFN 子层。而右侧展示的是由 N/2 个 Transformer 层组成的堆叠结构，其中下层 Transformer 的 FFN 子层被替换为 MoE 层。
2025-03-22 11:06:54
698
原创 从零开始优化 RAG 流程的终极指南，解决检索增强生成的核心挑战
本文讨论了优化 RAG 管道各个部分并增强整体 RAG 性能的各种技术。你可以在 RAG 管道中使用其中一种或多种技术，使其更加准确和高效。希望这些技术能够帮助你为你的应用程序构建一个更强大的 RAG 管道。参考资料：https://luv-bansal.medium.com/advance-rag-improve-rag-performance-208ffad5bb6a。
2025-03-21 11:52:41
655
原创 从“猜答案”到“真思考”：思维链如何重塑大模型的思考方式？
想象你在解一道数学题：“小明有5个苹果，吃了2个又买了3个，现在有几个？”人类不会直接写答案，而是分步计算：第1步：先算剩余：5 - 2 = 3第2步：再算总数：3 + 3 = 6思维链（Chain-of-Thought）正是让AI模仿这一过程：展示问题解决的中间步骤，而非直接给出最终答案。它就像让AI在“草稿纸”上写推导，使思考过程透明化，让AI从“死记硬背”变成“有逻辑的思考者”。
2025-03-21 09:55:44
750
原创 一文搞懂 DeepSeek 核心技术
DeepSeek 作为AI 大模型其中的佼佼者，各种突破与创新不断涌现，正引领着人工智能发展的新方向。本文以 PPT 式风格直观呈现技术精髓，深入揭秘 DeepSeek 核心技术。首先概述了DeepSeek的特点，包括内容token化、训练前需要将文本进行处理、存在endtime、无自我认识、上下文长度限定、记忆力有限等。接着介绍了DeepSeek的发展历程、核心技术架构、创新点、应用场景以及未来发展趋势。
2025-03-20 12:02:19
873
原创 [全面]关于大模型Agent的可视化指南
要了解什么是 LLM Agent，我们首先来了解一下 LLM 的基本功能。传统上，LLM 的作用无非是预测下一个 token。通过连续采样许多token，我们可以模拟对话并使用 LLM 为我们的查询提供更广泛的答案。然而，当我们继续“对话”时，任何 LLM 都会暴露出它的一个主要缺点：它不记得对话！LLM 经常在许多其他任务上失败，包括乘法和除法等基本数学运算：这是否意味着 LLM 很糟糕？绝对不是！LLM 没有必要面面俱到，我们可以通过外部工具、记忆和检索系统来弥补其劣势。
2025-03-20 11:58:21
543
原创 人工智能大模型技术：深度剖析与应用展望！
在今年的全国两会上，“人工智能 +” 行动再度成为焦点，政府工作报告明确提出要持续推进这一行动，将数字技术与制造优势、市场优势更好结合起来。人工智能领域中，大模型技术凭借其强大的能力和广泛的应用前景，成为众多代表委员讨论的热点。今天，就让我们深入剖析这一前沿技术。下面这张脑图从基础原理、两会应用、技术实践多个层面，对其进行了系统梳理。
2025-03-19 14:29:07
549
原创 DeepSeek 与 ChatGPT 的核心模型对比分析
在探讨 DeepSeek 和 ChatGPT 之间的区别之前，我们需要先理解 AI 语言模型的两种主要架构：Dense 模型（密集模型 Dense Model）和 MoE 模型（专家混合模型 Mixture of Experts）。Dense 模型就像一支全员参与的大军，每次推理时，所有士兵（参数）都会一起行动。虽然战斗力强，但资源消耗也很大。ChatGPT 采用的就是这种架构，每次推理都会调用全部参数。
2025-03-19 14:24:19
736
原创 Langchain，大语言模型应用的革命Python库！
今天，我们探索了Langchain这个强大的Python库，它彻底改变了我们构建大语言模型应用的方式。Langchain的核心概念和基本组件如何使用提示模板构建高质量提示如何创建和组合Chains实现复杂流程如何添加记忆功能实现有状态对话如何利用Agent和工具扩展LLM的能力如何连接知识库构建专业问答系统Langchain让开发LLM应用变得更加模块化和灵活，极大地降低了开发门槛。尝试不同类型的记忆组件（如ConversationSummaryMemory）
2025-03-18 13:51:59
971
原创 大型语言模型LangChain开源框架能有些什么应用场景？看这里
LangChain 支持从文档中提取关键信息并生成摘要，适用于新闻报道、学术研究等领域。通过与知识库结合，LangChain 还可以实现文档问答功能，帮助用户快速获取所需信息。
2025-03-18 11:51:24
822
原创 DeepSeek引爆AI+健康革命：医药零售全链路效能跃升新范式
3月15日，在2025西鼎会首日大会上，中康科技数字零售事业部总经理朱海以《DeepSeek爆火，健康产业迎来运营新范式》为主题，向行业抛出了一份关于AI与健康产业深度融合的“未来路线图”。在这场备受关注的演讲中，朱海不仅揭示了AI技术对医药零售、健康管理等场景的颠覆性影响，更系统性展现了中康科技如何通过数据与智能体技术，推动行业迈向效率与价值的新高度。
2025-03-17 13:59:58
826
原创 策略产品AI转型指南：能力模型与实战策略
策略产品，即在限制条件内，通过推动项目、设定评估体系和全面评估项目收益三种手段，达到全局最优解的产品岗位。限制条件：法律法规限制（如黄色内容在国内是禁止的），用户体验设计（如客户端弹窗三次是体验规范不允许的，一般只弹窗一次），项目资源设计（设备、人力等资源都是有限的），策略产品必须在这些边界条件内去求解。推动项目：包括三个关键点，首先，项目润滑工作必不可少；第二，要厘清 PRD 细节，包括宏观上的定义和微观上的设计；第三是要拉到关键决策人推动项目。设定评估体系：一级指标、二级指标是什么。
2025-03-17 13:47:03
786
原创 浏览器跑大模型，实现完整的RAG
WebAssembly（Wasm）使浏览器变成了通用计算平台。现在，很多基础软件组件（如数据库、机器学习库、数据可视化工具等）都有了 Wasm 版本，这让开发者能够在不需要后端服务器的情况下，构建完全在浏览器内运行的高级应用程序。隐私性：用户的数据不会离开设备，确保隐私。易于部署：浏览器应用程序无服务器运行，跨平台兼容。速度：消除前端与服务器之间的通信，提升速度与交互性。
2025-03-14 14:28:15
542
原创 DeepSeek-V3 和 DeepSeek-R1的差异
DeepSeek-V3 与 R1 代表了大模型发展的两个方向：前者通过架构创新实现通用智能的普惠化，后者借助训练范式突破推动专业领域的认知革命。建议企业采用「V3 打底 + R1 攻坚」的混合架构，在控制成本的同时攻克高价值难题。随着 MoE 与 RL 技术的持续融合，未来或将出现兼具广度与深度的下一代模型。我的DeepSeek部署资料已打包好（自取↓）但如果你想知道这个工具为什么能“听懂人话”、写出代码 甚至预测市场趋势——答案就藏在大模型技术里！❗️为什么你必须了解大模型？
2025-03-14 14:24:22
805
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人