- 博客(2065)
- 收藏
- 关注
RSS订阅原创 如何真正“不花一分钱”本地部署一个属于你的大模型（附教程）
看了那么多chatGPT的文章，作为一名不精通算法的开发，也对大模型心痒痒。但想要部署自己的大模型，且不说没有算法相关的经验了，光是大模型占用的算力资源，手头的个人电脑其实也很难独立部署。就算使用算法压缩后的大模型，部署在个人电脑上，还要忍受极端缓慢的计算速度以及与chatGPT相差甚远的模型效果。前排提示，文末有大模型AGI-优快云独家资料包哦！有什么办法能够部署属于我们自己的大模型呢？有编程基础：作为一个合格的程序员，这应该是必备素质。
2025-04-02 23:02:03
1027
原创 手把手教你训练AI大模型：从入门到专家的系统教程
大模型作为目前最前沿的技术，是如何开发或者训练出来的呢。本文就为大家总结了大模型训练各阶段的最新技术方法，希望对大家有所帮助。
2025-04-01 10:08:35
689
原创 AI模型训练完全手册：从零开始打造强大模型，收藏这一篇就够了！
ChatGPT面世以来，各种大模型相继出现。那么大模型到底是如何训练的呢，在这篇文章中，我们将尽可能详细地梳理一个完整的 LLM 训练流程，包括模型预训练（Pretrain）、Tokenizer 训练、指令微调（Instruction Tuning）等环节。
2025-04-01 10:01:25
966
原创 AI大模型实战指南：从零训练自己的智能模型（入门到进阶）
AI大模型应用入门实战与进阶：如何训练自己的AI模型是一篇深入浅出的技术博客文章，旨在帮助读者理解和掌握AI大模型的基本概念、算法原理和应用实例。在本文中，我们将从背景介绍、核心概念、算法原理、代码实例、未来发展趋势和常见问题等多个方面进行全面的探讨。前排提示，文末有大模型AGI-优快云独家资料包哦！随着数据规模的不断扩大、计算能力的不断提升和算法的不断创新，AI大模型已经成为了人工智能领域的重要研究热点和应用前沿。
2025-04-01 09:57:40
896
原创 GPU为何成为AI大模型训练的“超级引擎“？深度解析算力密码
一般说到显卡，大多人的第一反应是，这不是给打游戏的用的吗？❝其实的GPU还可以作为AI芯片使用的。在GPU火之前，提到最多的就是CPU，那么二者有什么区别呢？❝GPU的计算单元数量比CPU多得多。以英伟达H100 GPU为例，它包含超过1.8万个核心，而顶级的Intel I9 CPU只有24个核心，GPU的核心数是CPU的700多倍。所以，CPU 擅长 快速完成单个运算，适合需要逐一执行的程序。GPU 擅长 并行处理大量运算，即使单个速度较慢，但可以同时处理多个任务。
2025-04-01 09:54:42
338
原创 3分钟速通AI大模型训练：零基础极简入门指南
大家好啊，之前有小伙伴私信我，想了解下大模型比如 chatGPT 是如何进行训练的。和他们聊了一下，发现有一个点一直在困惑着大家，那就是——大模型的训练是无监督学习还是有监督学习？在大模型训练过程中，数据的标签是什么？如何计算损失然后进行反向传播的呢？今天就简单来聊一下这个问题。事实上，很多自然语言处理（NLP）的模型，尤其是上文提到的大语言模型（如GPT系列），都是通过无监督学习或自监督学习的方式进行训练的。也就是说它们不需要人工标注的标签来进行训练。
2025-04-01 09:48:00
873
原创 2025最全AI大模型训练教程：从入门到精通的完整路线，收藏这一篇就行了！
在这个过程中，不仅要学会如何设置和调整模型的超参数，理解各种优化算法（如梯度下降、动量梯度下降、Adam等）的工作原理，还要熟练运用交叉验证、网格搜索等方法来优化模型性能，并采用多样化的评估指标（如精度、召回率、AUC-ROC曲线、F1分数等）来衡量模型效果。同时，熟悉特征工程的概念和技术，如特征选择、特征提取、特征构造等，可以有效地提高模型的表现。学习AI大模型的过程中，必须保持对最新科研成果的关注和追踪，如Transformer家族的新变体、AutoML技术、元学习、迁移学习等领域的发展动态。
2025-04-01 09:45:37
559
原创 AI大模型训练完全指南：从理论到实践的十种核心方法！
在这个过程中，不仅要学会如何设置和调整模型的超参数，理解各种优化算法（如梯度下降、动量梯度下降、Adam等）的工作原理，还要熟练运用交叉验证、网格搜索等方法来优化模型性能，并采用多样化的评估指标（如精度、召回率、AUC-ROC曲线、F1分数等）来衡量模型效果。同时，熟悉特征工程的概念和技术，如特征选择、特征提取、特征构造等，可以有效地提高模型的表现。学习AI大模型的过程中，必须保持对最新科研成果的关注和追踪，如Transformer家族的新变体、AutoML技术、元学习、迁移学习等领域的发展动态。
2025-04-01 09:40:01
779
原创 没有GPU也能跑Llama3！Ollama本地部署傻瓜教程
开源大模型领域当前最强的无疑是 LLaMA 3！Meta 这次不仅免费公布了两个性能强悍的大模型（8B 和 70B），还计划发布一个可以与 GPT-4 对打的 400B 模型。今天，我们将介绍一种简单易懂的本地部署方法，非常适合新手！前排提示，文末有大模型AGI-优快云独家资料包哦！如果想深度使用Llama3，还是准备一个好的GPU环境来测试，CPU环境下还是很吃力。读者福利：如果大家对大模型感兴趣，这套大模型学习资料一定对你有用如果你是零基础小白，想快速入门大模型是可以考虑的。
2025-03-29 10:00:16
786
原创 Ollama本地大模型完全手册：超详细部署与实战指南（2025最新版）
前几篇，分享的都是如何白嫖国内外各大厂商的免费大模型服务~有小伙伴问，如果我想在本地搞个大模型玩玩，有什么解决方案？Ollama，它来了，专为在本地机器便捷部署和运行大模型而设计。也许是目前最便捷的大模型部署和运行工具，配合Open WebUI，人人都可以拥有大模型自由。今天，就带着大家实操一番，从 0 到 1 玩转 Ollama。
2025-03-29 09:57:18
1021
原创 手把手教你用Ollama玩转本地大模型：部署+微调+应用全攻略！
前几篇，分享的都是如何白嫖国内外各大厂商的免费大模型服务~有小伙伴问，如果我想在本地搞个大模型玩玩，有什么解决方案？Ollama，它来了，专为在本地机器便捷部署和运行大模型而设计。也许是目前最便捷的大模型部署和运行工具，配合Open WebUI，人人都可以拥有大模型自由。今天，就带着大家实操一番，从 0 到 1 玩转 Ollama。前排提示，文末有大模型AGI-优快云独家资料包哦！如果要使用的模型不在 Ollama 模型库怎么办？
2025-03-29 09:54:45
1235
原创 AI大模型本地化全流程：基于Ollama的微调与部署教程！
llama：LLaMA（Large Language Model Meta AI）是由 Meta（原Facebook公司）发布的一系列大型语言模型。这些模型旨在处理和生成自然语言文本，能够执行多种任务，如文本摘要、翻译、问答、文本生成等。LLaMA 模型因其高效的性能和较小的模型尺寸而受到关注，这使得它们能够在资源有限的环境中运行，例如个人计算机或移动设备。Ollama：是一个开源的大型语言模型服务工具，由 Meta发布。前排提示，文末有大模型AGI-优快云独家资料包哦！
2025-03-29 09:51:23
929
原创 Java转AI大模型：0基础到Offer的5个阶段（含学习路线图+避坑指南）
在人工智能（AI）迅速发展的背景下，从传统的编程领域如Java程序员转向大模型开发是一个既充满挑战也充满机遇的过程。对于 Java 程序员来说，这也是一个实现职业转型、提升薪资待遇的绝佳机遇。前排提示，文末有大模型AGI-优快云独家资料包哦！一、明确大模型概念简单来说，大模型就是具有大量参数和强大计算能力的人工智能模型，可以处理各种复杂的任务，如自然语言处理、图像识别等。想象一下，大模型就像是一个超级聪明的大脑，能够理解和处理各种信息。二、转行步骤第一步：学习基础知识。
2025-03-25 10:49:54
877
原创 从PRD到LLM：AI产品经理转型大模型必读指南（附需求文档模板）
如果你想转行做大模型，作为一名AI产品经理，你可以怎么做呢？或许，你可以先进行自我检测，看看自己是否真的适合转行做大模型。这篇文章里，作者便给想转行做大模型的AI产品经理们提出了一些建议，不妨来看看吧。作为一个产品经理，你可能已经熟悉了一些常见的AI技术和应用，比如机器学习、深度学习、自然语言处理、计算机视觉等。但是，你是否了解什么是大模型？大模型又有什么特点和优势？为什么大模型会成为AI领域的一个重要趋势？如果你想转行做大模型，你需要具备哪些基本素质和技能？你又该如何评估自己是否适合这个领域？
2025-03-25 10:46:41
616
原创 普通程序员如何啃下AI大模型？5个关键步骤+3个认知陷阱
人工智能已经成为一个非常火的方向。作为一名普通的程序员，该如何转向AI大模型方向。以程序员为例，看看普通程序员如何开启AI大模型之路。作为一名程序员，在考虑转行至大模型领域时，可以将在前端开发中积累的技能和经验与大模型技术相结合，从而为你的程序员开发工作带来诸多好处。以下是转行大模型对程序员的一些潜在益处：更丰富的交互体验：大模型如自然语言处理（NLP）和机器学习模型可以用于创建更智能、更自然的用户交互界面。例如，通过集成聊天机器人或语音识别功能，可以提升用户的交互体验。
2025-03-25 10:43:37
866
原创 放弃吧，程序员学大模型90%会失败！避开这些坑效率提升10倍（附自查清单）
在人工智能（AI）迅速发展的背景下，从传统的编程领域如Java程序员转向大模型开发是一个既充满挑战也充满机遇的过程。对于 Java 程序员来说，这也是一个实现职业转型、提升薪资待遇的绝佳机遇。前排提示，文末有大模型AGI-优快云独家资料包哦！一、明确大模型概念简单来说，大模型就是具有大量参数和强大计算能力的人工智能模型，可以处理各种复杂的任务，如自然语言处理、图像识别等。想象一下，大模型就像是一个超级聪明的大脑，能够理解和处理各种信息。二、转行步骤第一步：学习基础知识。
2025-03-25 10:32:43
1052
原创 从零开始：手把手教你搭建Agent框架
无论是环境的反馈，还是人类的指令，Agent 都需要完成一个对接收到的信息进行“理解”，并依据得到的理解进行意图识别，转化为下一步任务的过程。真正让人惊讶的是大模型在推理上的能力涌现。推理，一般指根据几个已知的前提推导得出新的结论的过程，区别于理解，推理一般是一个“多步骤”的过程，推理的过程可以形成非常必要的“中间概念”，这些中间概念将辅助复杂问题的求解。不同的智能体有不同的推理提示风格、不同的输入方式以及不同的解析输出方式，依赖于用户对应用的自定义，说白了就是对大模型进行一层封装更方便管理。
2025-03-19 21:59:38
933
原创 一篇文章带你了解什么是Agent？Agent智能体有什么作用
由llm驱动的Agent不仅可以高效执行人类明确指令，也具备自主发起任务、探索下一步并且动态决策的能力，拥有一定的反应能力，能在每一次的任务不同、环境不同的情况下做出正确的决定，在目标驱动下实现从被动响应到主动行为的跨越。记忆能力可以在Agent有需要的时候检索查阅，就像你开卷考试一样，书本就是你的数据库，书里的东西就是你的信息，试卷问题就是用户输入，你这个智能的大脑能从书里面找到问题相关的上下文，然后总结提炼出答案。这种方法的好处是更加智能和高效，能根据不同的领域做出不同的规划。
2025-03-19 21:57:36
836
原创 最简明的大模型agent教程，零基础也能学懂！
大模型Agent是结合了大规模神经网络模型和自主计算实体的技术，它具备强大的表达、学习和交互能力，能够在无人干预的情况下，根据环境信息自主决策和控制行为。前排提示，文末有大模型AGI-优快云独家资料包哦！简单而言之，agent是增强大模型能力的技术方案路径。主要包括：工具、工具选择方案，大模型工具应用3个部分。1用户给出一个任务(Prompt) -> 2思考(Thought) -> 3行动(Action) -> 4观察(Observation)
2025-03-19 21:56:13
1019
原创 大模型微调方法（非常详细），收藏这一篇就够了！
2021年微软提出的 LORA，斯坦福提出的 Prefix-Tuning，谷歌提出的 Prompt Tuning，2022年清华提出的 P-tuning v2、2023年华盛顿大学提出的QLoRA、2024年英伟达提出DoRA等基本上都是属于该范畴）。需要注意的是，与预训练一样，全微调需要足够的内存和计算预算来存储和处理训练过程中的所有梯度、优化器和其他更新组件。其中，大模型微调技术在此过程中起到了非常关键的作用，它提升了模型的生成效率和适应性，使其能够在多样化的应用场景中发挥更大的价值。
2025-03-19 21:53:31
1087
原创 大模型微调的7种方法，零基础入门大模型（非常详细）看一篇就够了！
本篇文章深入分析了大型模型微调的基本理念和多样化技术，细致介绍了LoRA、适配器调整(Adapter Tuning)、前缀调整(Prefix Tuning)等多个微调方法。详细讨论了每一种策略的基本原则、主要优点以及适宜应用场景，使得读者可以依据特定的应用要求和计算资源限制，挑选最适合的微调方案。前排提示，文末有大模型AGI-优快云独家资料包哦！
2025-03-19 21:51:06
837
原创 看过来：大龄程序员转行转行做什么好呢？
程序员35岁后，无人问津、被下岗，说到底还是中国互联网企业普遍短命和中国程序员新人不断涌现导致的，前者是岗位的缩减，后者是供应的增加，两者一叠加，35岁程序员就成了背锅侠。大龄程序员和老医生一样都是非常金贵的，应该是各个单位的宝，区别在于医生由国家给兜底，程序员无人兜底。是以、各位程序员老铁，要提前做好规划，程序员未必能干一辈子，但是工作要干一辈子。
2025-03-18 10:22:50
724
原创 大模型入门到精通，收藏这一篇就够了！程序员转行AI大模型教程
在人工智能（AI）迅速发展的背景下，从传统的编程领域如Java程序员转向大模型开发是一个既充满挑战也充满机遇的过程。对于 Java 程序员来说，这也是一个实现职业转型、提升薪资待遇的绝佳机遇。前排提示，文末有大模型AGI-优快云独家资料包哦！一、明确大模型概念简单来说，大模型就是具有大量参数和强大计算能力的人工智能模型，可以处理各种复杂的任务，如自然语言处理、图像识别等。想象一下，大模型就像是一个超级聪明的大脑，能够理解和处理各种信息。二、转行步骤第一步：学习基础知识。
2025-03-18 10:21:19
962
原创 【转型必看】Java到AI大模型，程序员的逆袭秘籍，转行不再是梦！
随着技术的不断进步，人工智能（AI）大模型已经成为当今科技领域最热门的话题之一。许多开发者开始考虑从传统的软件开发领域，如Java，转向人工智能领域，今天小编和大家一起来探讨Java开发者是否可以转型到人工智能大模型，转型的优势，薪资对比，以及转型所需的知识和学习路线等。Java作为一种广泛使用的编程语言，拥有强大的生态系统和丰富的库支持。许多人工智能大模型框架和库，如Apache Mahout和Deeplearning4j，都是基于Java开发的。因此，Java开发者具备转型到人工智能大模型领域的基础。
2025-03-18 10:19:31
518
原创 【程序员转行指南】这才是最好的出路：程序员转行大模型，2025年就是最好的时机！
程序员转行做什么比较好？这个没有确切的答案，因人而异。下面我会结合身边几个大龄程序员的实际情况来说一说这个问题。会不会造成薪资的大幅下降？一开始肯定会的，毕竟隔行如隔山，我们刚开始从事软件开发工作不也就三四千块钱一个月么？转行很难，又不得不转程序员35岁后，无人问津、被下岗，说到底还是中国互联网企业普遍短命和中国程序员新人不断涌现导致的，前者是岗位的缩减，后者是供应的增加，两者一叠加，35岁程序员就成了背锅侠。在当今的AI时代，程序员的工作模式已经受到了很大的冲击。
2025-03-18 10:18:13
1195
原创 大龄程序员想转行大模型，应该往哪个方向转？
每个方向都有其独特的挑战和发展机遇，程序员可以根据自己的背景和兴趣选择最适合自己的路径。无论选择哪个方向，持续学习最新的技术和保持对行业的敏感度都是非常重要的。此外，积极参与社区活动、贡献开源项目也是提升技能和个人影响力的有效方式。在大模型时代，我们如何有效的去学习大模型？现如今大模型岗位需求越来越大，但是相关岗位人才难求，薪资持续走高，AI运营薪资平均值约18457元，AI工程师薪资平均值约37336元，大模型算法薪资平均值约39607元。掌握大模型技术你还能拥有更多可能性。
2025-03-18 10:12:52
643
原创 企业大模型落地关键是什么？来抄答案！
12 月 12 日，由中国人工智能产业发展联盟（AIIA）指导、北京中关村科金技术有限公司主办的【2024 大模型技术与应用创新论坛】在北京成功举办。论坛现场，中关村科金总裁喻友平正式发布，推出重磅升级的，以及一系列大模型应用。其中，得助大模型平台 2.0 具备算力统一调度能力、一站式模型训推、应用快速构建三大核心能力，并基于企业级最佳实践沉淀上百个全场景套件，能够帮助各类企业快速构建和部署自己的大模型应用，显著降低企业大模型落地成本。
2025-03-17 20:54:11
865
原创 面对“百模大战”，企业该怎么选大模型产品
面对市场上众多的大模型选择，如何进行科学的选型也成为了企业面临的一个重要问题。根据笔者的实践经验总结，我们会从大模型基础信息评估、大模型性能评估和大模型的备案信息评估三个维度来进行大模型的选型。前排提示，文末有大模型AGI-优快云独家资料包哦！大模型备案，即生成式人工智能（大语言模型）上线备案，是网信部门针对生成合成（深度合成）类算法的特定管理流程。这一制度的设立，旨在确保大模型在上线运行前已经通过了严格的能力审查和安全评估，从而保障其在模型性能和安全性方面达到一定的标准。
2025-03-17 20:51:22
570
原创 如何构建企业级的AI大模型？只看这篇就够了
模型评估模型评估⼀直以来都是⼈⼯智能领域的重要议题。从机器学习，到深度学习，再到现在的⽣成式 AI，不同阶段的模型评估指标也呈现不同的特点。在机器学习和深度学习阶段，模型的主要任务是分类(分类模型)和预测(回归模型)，模型结果是否正确是明确的。分类模型的主要评估指标是准确率、召回率、精确率、F1 等等。但是到了⽣成式 AI 阶段，基于通⽤⼤型基础模型，模型的主要任务变成了⽂本⽣成和图像⽣成等。⽣成的⽂本与图⽚是否“正确”具有强烈的主观性，计算维度也与之前不同。
2025-03-17 20:48:08
785
原创 为什么企业要做大模型？大模型如何赋能企业数字化转型
随着人工智能(AI)技术的兴起，大模型成为从信息化走向数智化的重要驱动力。虽然基于大算力支持和超大规模语言数据作为训练样本的大模型技术能够支持自动文摘、机器翻译等基础通用任务，但在医疗、金融等专业领域中，由于缺乏行业知识，无法满足定制化、精细化和行业化的需求。因此，需要基础大模型提供方与垂直行业的企业合作，共同开发行业大模型。例如，百度的“文心一言”大模型就与汽车、能源、医疗、金融等11个行业的企业合作.创造了国内首个全面开放的大型语言模型。
2025-03-17 20:46:19
584
原创 基于大模型（LLM）的Agent 应用开发
这里的Agent 指的是智能体，可以追溯到明斯基的《society of mind》一书。在那本书中，明斯基对Agent的定义有点抽象——“社会中某个个体经过协商后可求得问题的解,这个个体就是agent”。在计算机领域，agent是一种通过传感器感知其环境，并通过执行器作用于该环境的实体，因此，可以把实体定义为一种从感知序列到实体动作的映射。一般认为，Agent是指驻留在某一环境下，能持续自主地发挥作用，具备自主性、反应性、社会性、主动性等特征的计算实体。智能，是Agent 与环境相互作用的涌现属性。
2025-03-14 10:18:38
754
原创 大模型应用开发的主流架构：大模型与多个小模型的协同模式！
架构是灵活多变的，切勿钻牛角尖在上一篇文章中讲到大模型的能力问题，虽然说经过这一两年时间的发展，大模型的能力已经得到巨大的提升，甚至有些模型已经超出了意料。但大模型在工程化落地中依然面临着很多问题，比如说成本问题，技术问题，以及能力问题，毕竟大模型并不是万能的，某些模型虽然在某些方面表现较强，但并不是无所不能的。因此，该怎么解决这个问题呢？这时 通用大模型+多个垂直小模型的解决方案就出现了。大模型+多个小模型。
2025-03-14 10:13:55
507
原创 转行AI大模型开发：挑战与机遇，如何有效学习以实现职业转变
转行AI大模型开发难吗？怎么学才能找到工作？这应该是所有新人都会面临的问题，所以我结合自己的经历，做了一些总结和学习方法，希望能对大家有所帮助。前排提示，文末有大模型AGI-优快云独家资料包哦！
2025-03-14 10:12:34
229
原创 大模型开发教程：从零开始的入门指南！
大模型开发教程引领人工智能领域前沿，从基础概念至实战项目，全面覆盖Python与深度学习框架使用，指导初学者构建线性回归、逻辑回归、神经网络等模型，深入探索图像分类、情感分析等复杂应用，为探索未来智能世界提供坚实基石。前排提示，文末有大模型AGI-优快云独家资料包哦！大模型开发是通往未来智能世界的桥梁，从基础概念的学习到实际项目的实践，每一步都至关重要。通过本教程，希望能够激发大家对人工智能和深度学习的探索热情，为未来的大模型开发领域贡献自己的力量。
2025-03-14 10:11:01
615
原创 什么是大模型开发？大模型开发整理流程！
我们将开发以大语言模型为功能核心、通过大语言模型的强大理解能力和生成能力、结合特殊的数据或业务逻辑来提供独特功能的应用称为大模型开发。前排提示，文末有大模型AGI-优快云独家资料包哦！开发大模型相关应用，其技术核心点虽然在大语言模型上，但一般通过调用 API 或开源模型来实现核心的理解与生成，通过 Prompt Enginnering 来实现大语言模型的控制，因此，虽然大模型是深度学习领域的集大成之作，大模型开发却更多是一个工程问题。
2025-03-14 10:09:35
1160
原创 本地部署大模型！超级简单，一分钟即可完成！
首先打开ollama官网 https://ollama.com这里使用的是windows，直接选择下载即可文件下载好后之间打开点击安装即可默认会安装到c盘，请预先给c盘足够的空间来保证环境安装和模型下载所需空间充足安装完成后打开windows PowerShell可以输入ollama来验证是否安装成功或者变量配置是否有问题这里以wizardlm2模型为例，我们只需要在命令行中输入ollama run wizardlm2:7b即可等待模型下载完毕即可纯净系统启动可能存在vc运行库缺少问题。
2025-03-07 15:49:45
633
原创 2000+多种开源大模型随意部署！一键搭建本地大模型，不挑环境、不挑配置
Ollama是一个支持在WindowsLinux和MacOS上本地运行大语言模型的工具。它允许用户非常方便地运行和使用各种大语言模型,比如Qwen模型等。用户只需一行命令就可以启动模型。跨平台支持WindowsLinuxMacOS系统。提供了丰富的模型库,包括QwenLlama等1700+大语言模型,可以在官网中直接下载使用。支持用户上传自己的模型。用户可以将等地方的ggml格式模型导入到ollama中使用。也可以将基于pytorch等格式的模型转换为ggml格式后导入。允许用户通过编写。
2025-03-07 15:13:03
646
原创 本地部署大模型？Ollama 部署和实战，看这篇就够了！
Ollama，它来了，专为在本地机器便捷部署和运行大模型而设计。也许是目前最便捷的大模型部署和运行工具，配合Open WebUI，人人都可以拥有大模型自由。今天，就带着大家实操一番，从 0 到 1 玩转 Ollama。
2025-03-07 14:36:40
1632
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人