自今年2月以来,deepseek如火如荼,以迅疾不及掩耳之势,火遍大江南北,各行各业,但凡涉及新项目,莫不在其项目名称前增加"AI"、“大模型”、“基于DeepSeek”等亮眼字眼;谈及大模型,莫不是“有了AI,不用写代码了”、“替代人工了”、“基于本地知识库自动分析数据”了;如果再受到短视频里的大模型宣讲,好似大模型已经到了无所不能的地步。
康师傅在水务行业也深深受到了“DeepSeek”的冲击,基本来源于水务业主单位,业主经常有这样疑惑,“大模型不是能干。。。。。。”。基于行业里业主的需求以及市场的趋势,康师傅这几个月也在琢磨AI大模型,想以一个AI小白的视角,给大家讲讲AI大模型,它是什么,能做什么,有哪些应用,一个小白如何开始学习利用等。
1.学习思路
简单了解大模型,从ollama、vllm、lmdeploy三种主流方式学习部署模型,使用llamafactory、xtuner微调模型,使用opencompass评估模型,然后进阶的通过RAG完善优化模型,其间通过小案例熟悉使用。
核心:了解模型,不深究原理,熟练使用,初步尝试。
2.什么是大模型
既然有大模型,那就有小模型。为何我们现在使用的模型我们都叫它们大模型呢。以魔搭社区中的“DeepSeek模型”为例,大家经常听到的0.5B、7B、满血版模型,它们后面带的后缀“B”意味着是以10亿为单位的参数。比如0.5B就是参数量为5亿的模型,32B就是参数量为320亿的模型。

大模型一般是指参数了超过1B的模型,还有一些比较小的模型,比如bert模型,可能总共几百M,算是GPT3.5、qwen、DeepSeek之前的优秀模型了,大家刚开始玩的时候,可以先用bert模型试一试。
3.网上那么多0.5B、1.0B的模型,到底是什么?
我猜大家在工作、生活中估计也看到了许多DeepSeek0.5、1.0、7.0、8.0的各种版本,这些模型都是哪里来的,是DeepSeek开发出来适配不同算力、不同显卡的版本么?
答案并不是,以魔搭社区为例,这个1.5B的DeepSeek模型,就是大家常看的版本,这些版本并不是DeepSeek开发的,而是其他的一些优秀模型,通过“知识蒸馏”方法蒸馏出来的模型。
简单来说,就是以一个qwen的一个小模型为base模型,以DeepSeek为老师,在不断的学习过程中,初始加重DeepSeek的输出比例,慢慢的的降低它的比例,让这个qwen不断的学习,最终形成一个对GPU、算力要求没那么大的模型。

4.对电脑配置的要求
一般来讲,显存24GB以内的,大家也就玩玩0.5、1.0之类,小于7B的,个人大多数用ollama部署部署玩一玩,简单易上手,如果到企业的话,不建议,因为都是ollama自有的GGUF格式,基本都是阉割版本。和我们自己使用xtuner、llamafactory微调量化不一样,自己使用工具量化模型,知道量化的地方,哪些地方会有问题,所以从企业应用的角度,不推荐使用ollama。

5.为什么之前那么多模型,真正火了ChatGPT
我们大多数人接触大模型是从ChatGPT开始,然后国内的百度、智谱、阿里等普遍跟进。为什么从ChatGPT3开始,大众觉得大模型真的好用呢。这里不得不提一个模型的“涌现能力”。openai这家公司,有钱有人有显卡,每个模型参数量的上升,都是以“B”为单位,这就意味着大量的显卡,大量的电费,大量的技术人员做支撑。
openai公司通过不断的技术发展和尝试,发现模型的参数量达到10B的时候,模型会突然展现小模型完全不具备的能力,能流畅的编故事了,发展历程如下表:
| 迭代 | 参数量 | 功能 |
| GPT-1(2018) | 0.01B | 仅能完成简单文本生成(如续写句子),效果弱于同期BERT |
| GPT-2(2019) | 15B | GPT-2已能生成流畅的新闻、故事 |
| GPT-3(2020) | 175B | “涌现能力”明显,写代码对话接近人类水平 |
| GPT-3.5(2022) | 推测200B以上 | 结合人类反馈强化学习(RLHF),实现了“类人对话”的突破 |
下一篇,会通过一些小一点的模型,带大家开始尝试踏出AI大模型的第一步,并通过云服务器开始部署,一点点开始逐步深入。
大模型算是目前当之无愧最火的一个方向了,算是新时代的风口!有小伙伴觉得,作为新领域、新方向人才需求必然相当大,与之相应的人才缺乏、人才竞争自然也会更少,那转行去做大模型是不是一个更好的选择呢?是不是更好就业呢?是不是就暂时能抵抗35岁中年危机呢?
答案当然是这样,大模型必然是新风口!
那如何学习大模型 ?
由于新岗位的生产效率,要优于被取代岗位的生产效率,所以实际上整个社会的生产效率是提升的。但是具体到个人,只能说是:
最先掌握AI的人,将会比较晚掌握AI的人有竞争优势。
这句话,放在计算机、互联网、移动互联网的开局时期,都是一样的道理。
但现在很多想入行大模型的人苦于现在网上的大模型老课程老教材,学也不是不学也不是,基于此我用做产品的心态来打磨这份大模型教程,深挖痛点并持续修改了近100余次后,终于把整个AI大模型的学习路线完善出来!

在这个版本当中:
您只需要听我讲,跟着我做即可,为了让学习的道路变得更简单,这份大模型路线+学习教程已经给大家整理并打包分享出来, 😝有需要的小伙伴,可以 扫描下方二维码领取🆓↓↓↓

一、大模型经典书籍(免费分享)
AI大模型已经成为了当今科技领域的一大热点,那以下这些大模型书籍就是非常不错的学习资源。

二、640套大模型报告(免费分享)
这套包含640份报告的合集,涵盖了大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师,还是对AI大模型感兴趣的爱好者,这套报告合集都将为您提供宝贵的信息和启示。(几乎涵盖所有行业)

三、大模型系列视频教程(免费分享)

四、2025最新大模型学习路线(免费分享)
我们把学习路线分成L1到L4四个阶段,一步步带你从入门到进阶,从理论到实战。

L1阶段:启航篇丨极速破界AI新时代
L1阶段:了解大模型的基础知识,以及大模型在各个行业的应用和分析,学习理解大模型的核心原理、关键技术以及大模型应用场景。

L2阶段:攻坚篇丨RAG开发实战工坊
L2阶段:AI大模型RAG应用开发工程,主要学习RAG检索增强生成:包括Naive RAG、Advanced-RAG以及RAG性能评估,还有GraphRAG在内的多个RAG热门项目的分析。

L3阶段:跃迁篇丨Agent智能体架构设计
L3阶段:大模型Agent应用架构进阶实现,主要学习LangChain、 LIamaIndex框架,也会学习到AutoGPT、 MetaGPT等多Agent系统,打造Agent智能体。

L4阶段:精进篇丨模型微调与私有化部署
L4阶段:大模型的微调和私有化部署,更加深入的探讨Transformer架构,学习大模型的微调技术,利用DeepSpeed、Lamam Factory等工具快速进行模型微调,并通过Ollama、vLLM等推理部署框架,实现模型的快速部署。

L5阶段:专题集丨特训篇 【录播课】

全套的AI大模型学习资源已经整理打包,有需要的小伙伴可以微信扫描下方二维码,免费领取

2059



被折叠的 条评论
为什么被折叠?



