- 博客(670)
- 收藏
- 关注
原创 Llama3-8b大模型微调:手把手教你在本地部署私有化大模型(附教程)
Llama3-8b大模型微调:手把手教你在本地部署私有化大模型(附教程)
2025-04-01 10:15:07
309
原创 《工业大模型应用报告》大模型有望成为驱动工业智能化的引擎 | 附下载
该报告在中国通信工业协会的指导和支持下,由腾讯研究院与中国通信工业协会物联网应用分会、毕马威企业咨询(中国)有限公司以及腾讯云智慧行业五部共同撰写。报告深入剖析了工业大模型的三种构建模式和应用场景,并分析了工业大模型在促进工业智能化发展方面的机遇与挑战。
2025-04-01 10:13:44
551
原创 大模型新书丨《大模型入门:技术原理与实战应用》一书让你轻松入门大模型(附PDF)
大模型新书丨《大模型入门:技术原理与实战应用》一书让你轻松入门大模型(附PDF)
2025-04-01 10:12:14
710
原创 40K star无需配置!Langchain-Chatchat 快速基于LLM构建本地智能知识库(附教程)
今天我们分享一个开源项目,帮助你快速构建基于Langchain 和LLM 的本地知识库问答,在GitHub已经获得40K star,它就是:Langchain-Chatchat
2025-03-31 15:51:11
235
原创 李开复、周鸿祎推荐!《实战AI大模型》这本大模型书一定要读!(附PDF)
《实战AI大模型》还提供了实践案例,详细介绍了如何使用Colossal AI训练各种模型。无论是人工智能初学者还是经验丰富的实践者,都能从本书学到实用的知识和技能,从而在迅速发展的AI领域中找到适合自己的方向。
2025-03-31 15:50:03
815
原创 100个顶级大厂参与制作!中国信通院2024大模型典型示范应用案例集(附教程)
中国信息通信研究院将组织业界开源大模型治理专家和开源大模型应用单位,共同构思、编写《开源人工智能大模型应用指南》,指导企业安全、合规的使用开源人工智能模型,降低开源人工智能应用风险,最大程度释放技术效能,促进行业快速发展。
2025-03-31 15:48:38
824
原创 DeepSeek R1打造本地RAG知识库的AI助手(二):Dify深度讲解(附教程)
前面我们刚刚讲了AnythingLLM实现的本地知识库大模型应用,对于很多朋友来说都是零代码的,很容易上手,但是功能相对少和不够灵活。
2025-03-27 15:43:55
452
1
原创 Deepseek R1打造本地化RAG知识库(一):安装部署使用详细教程(附教程)
Deepseek R1打造本地化RAG知识库(一):安装部署使用详细教程(附教程)
2025-03-27 15:43:13
262
原创 AI大模型好书推荐 -《基于大模型的RAG应用开发与优化 — 构建企业级LLM应用》
《基于大模型的RAG应用开发与优化——构建企业级LLM应用》 是一本专注于RAG(Retrieval-Augmented Generation,检索增强生成)技术应用的书籍。该书不仅为读者提供了全面深入的RAG技术知识,还注重实践性和可操作性,帮助读者快速掌握构建企业级LLM应用的能力。
2025-03-27 15:42:05
322
原创 RAGFlow超详细安装指南 | 构建自己的本地知识库(附教程)
RAGFlow 是一款基于深度文档理解构建的开源 RAG(Retrieval-Augmented Generation)引擎。可以为各种规模的企业及个人提供一套精简的 RAG 工作流程,结合大语言模型(LLM)针对用户各类不同的复杂格式数据提供可靠的问答以及有理有据的引用。
2025-03-27 15:41:17
561
原创 37.6K的代码资源,简直不要太强!这本大模型的神书比啃论文高效10倍(附PDF)
大家好!今天我想和大家真诚的分享一本能够让我从“大模型小白”蜕变的宝藏神书——《深入浅出大型语言模型》。和大多数人一样,刚接触大模型时,我也会被各种术语搞得头大:Transformer、微调、多模态...
2025-03-27 15:40:25
218
原创 RAG知识库: Langchain+Milvus向量数据库创建你的本地知识库(附教程)
RAG知识库: Langchain+Milvus向量数据库创建你的本地知识库(附教程)
2025-03-26 17:53:25
949
原创 用 LLama-Factory 训练和微调 LLama3,打造你的专属 AI 模型(附教程)
我们将了解如何使用 Llama Index 微调 Llama3。更棒的是,你只需几个简单的步骤和几行代码就可以实现这一点。
2025-03-26 17:52:10
888
原创 本地部署开源大模型的完整教程:LangChain + Streamlit+ Llama(附教程)
通过LangChain和Streamlit我们可以方便的整合任何的LLM模型,并且通过GGML我们可以将大模型运行在消费级的硬件中,这对我们个人研究来说使非常有帮助的。
2025-03-26 17:50:55
822
原创 大模型行业报告丨中国人工智能协会发布:中国人工智能大模型技术白皮书(附教程)
近期,中国人工智能协会发布了《中国人工智能大模型技术白皮书》,涵盖了大模型发展历程、关键技术、困难及挑战以及未来发展的展望。
2025-03-26 17:48:55
808
原创 大模型私有化部署:手把手教你部署并使用清华智谱GLM大模型(附教程)
本文就来分享下我的安装部署经验,包括本地和租用云服务器的方式,以及如何通过API调用大模型开发自己的AI应用,希望能解决一些下不去手的问题。
2025-03-25 11:33:40
743
原创 AI大模型:手把手教你从零搭建Agent框架(附教程)
本文介绍的Plan/Memory/Tool三组件只是Agent框架一种简单的拆分(参考了LangChain),除此外还有多种理解Agent框架的视角,读者若感兴趣可以自行学习以下Agent框架
2025-03-25 11:32:39
1048
原创 本地部署多模态大模型,结合Open-WebUI和Dify实现多模态对话、智能体!
今天,给大家介绍一下如何在个人电脑上通过Ollama和OpenWeb-UI搭建一个属于自己的多模态大模型,能够结合本地知识库进行智能问答、图像分析等,并结合Dify构建本地的智能体。支持Windows、macos、Linux。
2025-03-25 11:24:23
838
原创 AI大模型书籍推荐丨这本大模型权威教材必看!私有化部署真不难(附PDF)
《ChatGLM3大模型本地化部署、应用开发与微调》作为《PyTorch 2.0深度学习从零开始学》的姊妹篇,专注于大模型的本地化部署、应用开发以及微调等。
2025-03-24 14:14:02
651
原创 AI大模型本地部署:尝试用 Google Gemma 模型 MacOS 本地部署(附教程)
最近 Google 发布了 Gemma,是 Gemini 的低配版本,既然是 Google 出品那我一定要来吃螃蟹的。所以我本地部署了一个 7b 的版本来尝试使用一下看看效果。
2025-03-24 14:11:44
908
原创 22K star超强工具:Ollama,一条命令即可在本地跑 Llama2(附教程)
今天我们推荐的是一条命令快速在本地运行大模型,在GitHub超过22K Star的开源项目:ollama。
2025-03-24 14:10:43
1450
原创 RAG技术:是将知识库的文档和问题共同输入到LLM中(附教程)
RAG技术是先从知识库中检索出与问题相关的文档片段,然后将这些检索到的 **文档片段与问题**一起输入到LLM中进行回答。
2025-03-24 14:09:59
684
原创 一文读懂LLM Fine Tuning(微调)【大模型行业应用入门系列】
自从开创性论文《Attention is All You Need》发布以来,大型语言模型(LLM)掀起了一场席卷全球的人工智能革命。这种新兴技术迅速被各大企业所关注和采用,使得ChatGPT、Claude和Cohere等模型成为重要的技术支撑,为应用程序注入了新的活力和动力。
2025-03-22 15:54:27
612
原创 好书推荐丨学NLP不看这本书等于白学!一书弄懂NLP自然语言处理(附文档)
随着人工智能技术的飞速发展,自然语言处理成为了计算机科学与人工智能领域中不可或缺的关键技术之一。作为一名长期致力于人工智能和自然语言处理研究的学者,今天给大家推荐的这本《自然语言处理:大模型理论与实践》正是学NLP自然语言非常牛逼的一本书!
2025-03-22 15:53:09
272
原创 大模型实战:构建知识图谱:从技术到实战的完整指南(附教程)
本文深入探讨了知识图谱的构建全流程,涵盖了基础理论、数据获取与预处理、知识表示方法、知识图谱构建技术等关键环节。
2025-03-22 15:51:30
1074
原创 3分钟搞定腾讯云一键部署DeepSeek-R1 教程,小白也能轻松用!
2月2日上午,腾讯云宣布,在高性能应用服务上 HAI 上支持一键部署 DeepSeek R1 模型,开发者仅需3分钟就能接入调用。
2025-03-21 11:36:27
1059
原创 1分钟部署LM Studio本地大模型(附教程)
随着大语言模型 (LLM) 在各种场景中的广泛应用,许多人希望能在本地运行这些模型,从而享受更低的延迟、隐私保护和无需支付 API 费用等好处。
2025-03-20 10:48:56
772
原创 DeepSeek的本地化部署教程(Windows+Mac)(附教程)
DeepSeek-R1是幻方量化旗下的AI公司深度求索(DeepSeek)研发的推理模型。该模型采用强化学习进行后训练,旨在提升推理能力,尤其擅长数学、代码和自然语言推理等复杂任务。模型背景和功能。
2025-03-20 10:48:50
847
原创 大模型私有化部署:手把手教你部署并使用清华智谱GLM大模型(附教程)
本文就来分享下我的安装部署经验,包括本地和租用云服务器的方式,以及如何通过API调用大模型开发自己的AI应用,希望能解决一些下不去手的问题。
2025-03-20 10:48:40
728
原创 大模型入门指南:从零开始,轻松掌握AI核心概念
当前负责的业务正在大规模应用大模型,为了方便团队成员快速了解大模型相关的背景知识,我对相关内容进行了整理。
2025-03-19 11:29:19
828
原创 AI工作流平台Dify本地部署
Dify是一个支持通过AI工作流的形式,开发AI应用的开源平台,他相比 LangChain 更加的易用,甚至零代码即可创建你的AI应用。
2025-03-19 11:27:16
1159
原创 为了实现大模型的本地部署,应该怎么配置电脑硬件?
最近研究了以及配置等问题。结论是7B-70B大模型最合适个人本地部署。以下是配置。CPU:32-64核 (可降级,没有显存重要)。内存:128GB - 512GB。内存一般在显存的两倍左右,显存不够,内存来凑。硬盘:4TB - 12 TB SSD。>=重点是GPU。大模型时代,显存当然越大越好。但合理显存估算也很重要。以x B大模型y bit量化为例,推理的显存至少为x*y/8 GB。例如7B单精度(16bit)大模型至少需要14G显存,8bit量化至少需要8GB显存;
2025-03-18 16:53:33
1075
原创 劝退!我的大模型本地部署血泪史
一、大模型江湖:神仙打架,凡人围观2025年的AI江湖,国内大模型已卷出天际:百度的、阿里的、智谱的GLM,还有新晋“卷王”,参数从1.5B(15亿)到夸张的671B(6710亿)应有尽有。这些模型仿佛武侠小说里的绝世神功——云端大厂手握“满血版”,算力堆到天花板,普通人只能望“云”兴叹。可偏偏有人(我)不信邪:“本地部署,自力更生,保护隐私!”口号很燃,现实却很骨感。
2025-03-18 16:52:20
952
原创 RAG 知识库搭建:Ollama+AnythingLLM 搭建本地知识库
RAG 知识库搭建:Ollama+AnythingLLM 搭建本地知识库
2025-03-17 18:55:09
1268
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人