03.【AI大模型对话】的开发环境 准备确认:需要的环境和需要的软件

程序员入门大模型:从环境搭建到实战应用 大模型技术正在深刻改变软件开发流程,理解其工作原理和应用方法成为现代程序员的必备技能。从基础概念来看,大语言模型(LLM)通过海量数据训练获得文本理解和生成能力,其核心在于Transformer架构的自注意力机制。在工程实践中,开发者可以通过量化技术(如4-bit量化)在消费级硬件上运行模型,结合提示词工程和缓存机制显著提升效率。典型应用场景包括代码补全、日志分析和文档生成等,其中StarCoder、CodeLlama等开源模型展现出优秀性能。通过合理使用GPU加速和QLoRA微调等技术,开发者可以在有限资 阅读详情

03.【AI大模型对话】的开发环境 准备确认:需要的环境和需要的软件

提示:帮帮志会陆续更新非常多的IT技术知识,希望分享的内容对您有用。本章分享的是springboot的使用。前后每一小节的内容是存在的有:学习and理解的关联性。【帮帮志系列文章】:每个知识点,都是写出代码和运行结果且前后关联上的去分析和说明(能大量节约您的时间)。

所有文章都*不会*直接把代码放那里,让您自己去看去理解。我希望我的内容对您有用而努力~

系列文章总目录,除了当前的AI大模型系列外,还包括java前后分离,Python,AI,大数据,游戏,面试等等,系列文章归纳在此:
系列文章—总目录



前言

前提:本项目使用的是Python语言,用户界面使用的是html,通过vue框架来实现的。所以:需要掌握和具备这些前提知识(前端用vue.js来交互数据,是为了更加贴合于公司上班和市场运用)
知识其实在我另外的文章分享了


一、确定环境

1.安装好了anaconda
anaconda自带一些Python的环境,不用像pycharm指定环境,后期大模型有很多第三方环境,用anaconda后期会方便一些
anaconda安装步骤
保姆级:安装Anaconda最详细的教程
非常详细的安装步骤分享,及Anaconda安装影响了原Python工程怎么办?分享了很多种处理方式

anaconda和pycharm的区别:
anaconda和pycharm用哪一个
分享了具体的区别

2.安装好了ollama
快速拉取一个模型到本地,并且运行起来这个模型,安装完毕且拉取了模型,打开ollama可以通过localhost:11434/api 访问及测试是否可以正常使用
02.【AI大模型对话】安装ollama,ollama环境变量配置及安装详细步骤:
详细分享了ollama安装及配置环境变量,拉取模型命令,设置拉取模型的位置等等

3.确定位置
确定ollama拉取的模型,模型是存储在电脑的哪个位置

3.1注意事项
不要随便乱输入命令拉取。强烈建议,在官网查看命令来拉取您确实需要用的那个模型。这个是根据硬件的设备来做合理选择的

如图:里面有gpt ,千问3 , deepseek等等
在这里插入图片描述
在任意选择一个点进去:
在这里插入图片描述
上一篇文章分享的就是 1.1GB的那个 一般的功能可以用了,当然也是最小的一个。不是硬盘有xxx了,我就可以拉xxx,如404GB的那个,找一个1T的硬盘不就好了,关键还得看电脑能不能跑起来这个模型,存是能存,跑呢?


二、开发环境的构建

1.开发环境

使用anaconda创建一个独立的项目运行 虚拟环境
就是用anaconda创建一个独立项目工程,不和其他工程共享解析器和环境,在这个工程环境里面配置

2.检测环境

在运行窗口输入命令:conda env list
在这里插入图片描述如图,这些在anaconda目录下的,就是我们的开发环境,就长这样
刚刚安装好anaconda,只有一个base,项目写到后面就会有很多个了

下一小节,安装pytorch
04.【AI大模型对话】安装pytorch,pytorch详细安装步骤及注意事项(CPU版本/GPU版本)
非常及超级详细的:pytorch详细安装步骤及注意事项,CPU安装pytorch,GPU安装pytorch,GPU里面每个不同版本又怎么安装

附加小节:
保姆级:安装Anaconda最详细的教程(及Anaconda安装影响了原Python工程怎么办?)
实现大模型,是最大限度趋近于商业化上班环境,使用conda管理的Python环境,用Anaconda来做科学计算和数据处理,此文分享安装Anaconda,及不想影响原有的python工程,分享了很多种处理方式


总结

说明一下:整个这个系列实现AI大模型对话项目。序号文章一共也就10几篇,只有核心图文重点操作步骤来实现这个目标
(包括这个AI大模型的环境搭建,深度学习,数据处理,流输出,流推理等等)
(基本上您边看边写:一个小时或者一上午就能跟着一起手搓一个,然后您可以自行添加功能和内容在您项目里面)

其他扩展细节知识点,本系列省略了(或者有链接)如:
Python语法的
vue语法的

(会陆续更新非常多的IT技术知识及泛IT的电商知识,可以点个关注,共同交流。ღ( ´・ᴗ・` )比心)
(也欢迎评论,提问。 我会依次回答~)

手把手教你安装Anaconda:从零开始构建人工智能开发环境 这个被全球2000万开发者选择的工具包,可不是简单的软件安装器,它是通往人工智能世界的VIP通行证。从数据处理到模型训练,从可视化到部署,它把散落的工具串成珍珠项链,让开发者专注于创造而不是配置环境。记住,Anaconda只是起点,真正的魔法发生在你敲下代码的那一刻。下载的.pkg文件可能需要权限解锁:按住Control键点击安装包,选择"打开",就像打开来历不明的快递需要特别确认。安装完成后,在启动台找到Anaconda-Navigator,它的图标像艘宇宙飞船,点开就是你的AI控制中心。 阅读详情

相关推荐

Python Flask项目方式接入阿里云通义AI大模型API 实现一个简单的AI聊天Web项目(流式传输+多轮对话+会话记录+代码高亮)----- noob学生

菜鸟做的

dddadwewq的博客 3694

AI大模型开发(一)-----环境搭建

AI大模型开发的笔记

weixin_43665177的博客 940

手把手教你本地部署DeepSeek:从零开始搭建AI开发环境

DeepSeek是一款面向AI开发者的开源工具库,主打模型训练、数据处理和推理加速三大核心功能。它支持主流深度学习框架(如PyTorch、TensorFlow),通过优化算法和硬件适配能力,能显著提升模型训练效率。根据官方测试数据,在同等硬件条件下,DeepSeek相比原生框架可节省30%训练时间,显存占用降低约25%。功能模块原生框架表现DeepSeek优化效果技术原理训练速度基准值1x提升至1.3x分布式梯度压缩算法显存占用基准值100%降低至75%动态显存分配策略多卡扩展效率。

skyksksksksks的博客 1383

openEuler入门学习教程,从入门到精通,openEuler 24.03 LTS 中人工智能及开发环境配置与编程实践(15)

openEuler 24.03 LTS AI开发环境配置与实践 摘要 本文详细介绍了在openEuler 24.03 LTS系统上配置人工智能开发环境的完整流程,包含机器学习与深度学习两大领域。

qq_45746668的博客 493

在openEuler 22.03 LTS SP3上部署NVIDIA Container Toolkit:从零到一的AI开发环境搭建

本文详细介绍了在openEuler 22.03 LTS SP3操作系统上,从零开始搭建支持GPU的AI容器开发环境的完整流程。核心步骤包括验证NVIDIA驱动、安装Docker引擎,以及部署和配置NVIDIA Container Toolkit(即Nvidia-Docker),最终实现通过`docker run --gpus all`命令在容器内直接调用宿主机GPU进行AI训练与推理。文章提供了详细的命令、配置方法、常见问题排查以及构建自定义AI开发环境镜像的实战指南,帮助开发者高效解决在国产操作系统上部署

weixin_29213827的博客 228

通俗易通解释SLAM问题的数学描述:运动方程和观测方程

高翔博士在他的《视觉SLAM十四讲》中把SLAM问题的数学描述抽象成了两个数学方程,以下对此做个总结,并且对此做一些通俗易懂的解释: 一、方程的总体形式 作为理性层次的描述,我们引入数学方程来描述SLAM过程,其中第一个方程叫做运动方程、第二个方程叫做观测方程,想象一下我们在研究SLAM的时候肯定需要观测机器人(无人汽车、无人机等都可以统称为机器人)的运动(画面感很强哈哈),这样很容易理解并且记忆这两个方程的名称和意义: 二、变量的含义 我们看到,这两个方程中有大量的英文字母作为变量存在其中,下面介绍一下

weixin_41855010的博客 7108

【Open-AutoGLM环境搭建终极指南】:从零部署AI大模型开发环境的5大核心步骤

掌握Open-AutoGLM环境搭建全流程,轻松部署AI大模型开发环境。涵盖依赖配置、容器化部署、GPU加速等5大核心步骤,适用于本地与云服务器场景,高效稳定、可扩展性强。从零开始快速上手,值得收藏。

SimCompile的博客 849

STM32 LwIP协议栈优化:从TCP延迟10ms降至1ms的内存配置手册

摘要: 本文针对STM32嵌入式开发中LwIP TCP通信的高延迟问题(默认配置下延迟达10~20ms),提出纯软件优化方案,通过调整内存配置与TCP参数将延迟降至1ms。核心问题包括内存池不足、pbuf分配低效及Nagle算法拖累,优化步骤包括: 内存池扩容:增大MEMP_NUM_TCP_PCB至10、PBUF_POOL_SIZE至32,避免资源竞争; pbuf静态池分配:采用2048字节大块缓冲区匹配DMA传输,减少分块与拷贝; 关闭Nagle算法:设置TCP_NODELAY=1,禁用延迟确认以加速小包

weixin_42212753的博客 1707

在Windows上通过WSL体验openEuler:打造高效的AI开发环境

openEuler WSL版评测:Windows下的高效Linux开发体验 摘要:本次评测验证了openEuler通过WSL在Windows系统的安装使用体验。测试环境采用Windows 11专业版,16GB内存分配。安装过程仅需启用WSL2功能、下载镜像并执行安装脚本三步,10分钟内即可完成。在AI开发场景测试中,成功部署了包含数据预处理、模型训练和评估的完整鸢尾花分类项目,三个模型训练总耗时2.3秒,准确率达98-100%,内存峰值占用1.2GB,展现了优秀的性能表现。

byte轻骑兵的技术小窝 2万+

ANSYS命令流黑箱揭秘:流体渗透压力载荷的七种收敛优化策略

本文深入解析ANSYS Workbench中流体渗透压力载荷的七种收敛优化策略,重点探讨接触探测点迭代逻辑、PPCN阈值动态调整及FPAT参数优化等关键技术。通过命令流示例和实战技巧,帮助工程师有效解决流体与结构相互作用仿真中的收敛难题,提升计算效率和精度。

weixin_29274337的博客 517

uniapp 记录运动轨迹 开发_智能手环穿戴设备APP开发解决方案

智能手环是一种穿戴式智能设备,是目前备受关注的科技产品。目前智能手环具有的功能有记录日常生活中的运动数据、移动轨迹,定位等,有些还可以进行睡眠质量的检测,并将这些数据传送至移动端如手机、平板等,可对数据进行分析,指导健康生活的作用。而智能手环开发方案就是将这些功能实现,将算法烧录到主控板上。智能手环都有哪些功能  1、记录运动数据  对于喜欢健身的用户来说,智能手环记录的运动数据功能...

weixin_39678493的博客 1764

AI/LLM 大模型入门指南

这里是一份大模型入门指南,带你从API调用走进本地大模型部署和微调。

Hoper-J的博客 1368

AI智能体项目管理框架agent-pm:从原理到实战的多智能体协作指南

在人工智能和自动化技术快速发展的今天,多智能体系统已成为实现复杂任务自动化的重要技术路径。其核心原理在于通过任务分解、角色分配和状态管理,让多个AI智能体像人类团队一样协同工作,从而突破单个模型的性能边界。这种架构的技术价值在于将软件工程中成熟的项目管理方法论引入AI领域,显著提升了自动化流程的可预测性、可观测性和可复用性。在实际应用场景中,多智能体协作框架能够高效处理从代码开发、文档撰写到数据分析等一系列任务,尤其适合需要多步骤、多专业协同的复杂项目。本文聚焦的agent-pm框架,正是这一领域的典型实践

weixin_42533910的博客 714

什么是人工智能体(AI Agent))?一文带你看懂,大模型入门到精通,收藏这篇就足够了!

人工智能”这个词几乎成了全民热词。从AI写作、AI绘画,到自动驾驶、智能客服,仿佛没有什么是AI做不到的。

huang9604的博客 729

佳能C3025打印机扫描方法

佳能C3025彩色打印机扫描方法 步骤一、如果打印机处于休眠状态,可按图中标记的按钮唤醒打印机; 然后点击屏幕上的【扫描】 步骤二、扫描类型选择【文件】 步骤三、点击屏幕上的【地址簿】 步骤四、此时屏幕胡看到名字,如果看不到自己的名字,可往下滑动直到看到自己的名字,然后点击自己的名字,再点击右下角的【应用】 步骤五、点击【发送设置】,可看到文件格式为PDF,点击可以选择JPEG的图片格式。...

weixin_46019317的博客 2万+

RexUniNLU零样本通用自然语言理解:nlp_deberta_rex-uninlu_chinese-base模型实战解析

本文深入解析了RexUniNLU零样本通用自然语言理解模型(nlp_deberta_rex-uninlu_chinese-base)的实战应用。通过详细的环境配置、模型加载及实战案例,展示了该模型在零样本场景下的强大能力,如实体识别和复杂关系抽取,显著提升NLP任务效率。

weixin_29088655的博客 250

【大模型微调系列-01】 入门与环境准备

摘要 本文系统介绍了大模型微调的基础知识与环境准备。首先从人工智能、机器学习和深度学习的关系入手,梳理了从感知机到ChatGPT的发展历程。重点解析了大模型相比传统模型的优势,包括理解、生成、推理和泛化能力,并列举了智能客服、代码助手等典型应用场景。针对深度学习对计算资源的高需求,详细对比了云端GPU与本地GPU的优缺点,推荐了Google Colab等主流云平台。最后介绍了PyTorch框架及其生态优势,为后续大模型实践奠定基础。全文循序渐进,帮助读者构建对大模型技术的系统性认知。

专注后端技术架构,AI技术分享 1232

28、时间敏感网络中可靠性感知的综合路由与调度

本文针对时间敏感网络(TSN)中现有路由与调度机制主要关注时间触发(TT)流量而忽略其他类型流量效用的问题,提出了一种可靠性感知的综合路由与调度机制。通过将具有不同可靠性和延迟要求的各类流量的联合路由与调度问题形式化为基于优化模理论(OMT)的混合整数规划问题,设计了完整的路由约束与调度约束,并分析了不同类型流量的传输效用,设定了优化目标以提升整体网络性能。实验结果表明,该机制在满足TT流量严格时延与可靠性要求的同时,显著提高了AVB和BE等非关键流量的传输效用,实现了多类型流量的高效协同传输。

hhh00的博客 95

【课程笔记】华为 HCIA-AI Solution 人工智能03:人工智能开发框架

特征:数据统一存储与访问、数据的聚合存储与高效读取、高效的数据编写码操作、灵活控制数据切分分区大小。计算流程:设置网络执行的后端、设置特定算子的执行后端、根据计算图算子标志切图、调度不同后端执行子图。优势:Python优先、更加易于学习、动态神经网络、易于Debug、数据并行、社区。优势:支持库管理、开源、数据可视化、Keras兼容性、可扩展、兼容性、架构支持。张量的属性:形状、数据类型、单个元素的大小、维度、元素个数、每一维的步长。(3) 运行态高效:数据处理、计算图的构建、编译优化、动态图直调。

淵_ken的博客 1279

jre9下载 jdk9

(Java SE Runtime Environment 9.0) 9.0u175 官方最新版 【x86|x64】

汉书HE8,好用的汇编代码编写工具

汉书HE8,好用的汇编代码编写工具早期编写汇编代码所用功能强大

如何打造你的专属AI智能助手:vLLM+DeepSeek+OpenWebUI保姆级教程!大模型实战(一)环境准备

我们介绍一下如何使用vLLM+DeepSeek+OpenWebUI来部署自己的专属AI助理,本篇介绍环境准备,包括GPU驱动安装和配置、NVlink配置、docker环境安装配置、模型权重下载。

Y525698136的博客 1325

温度PID控制PLC程序

温度PID稳定控制程序,适用于欧姆龙PLC,对其他PLC也具有很大参考价值

大模型技术专栏—5分钟搭建SpringAI大模型

大模型可以类比人类的大脑。如同人类的学习过程,需要阅读大量的书籍、文章和网页才能变得非常博学多才。在AI的世界里,大模型就是这样一个经过海量数据训练的“数字大脑”,通过深度学习模型、调节大量参数并训练海量数据,从而理解自然语言、图像、声音等各种复杂的数据。大模型队伍中的佼佼者有OpenAI的GPT4.0、Claude3.0、谷歌的Gemini 、国内的文心一言、通义等。

python1234567_的博客 1369

openEuler 开发环境搭建与工具链优化实践深度评测

openEuler作为面向数字基础设施的开源操作系统,在开发环境构建方面具有显著优势。本文基于华为云服务器环境,详细介绍了openEuler 20.03开发环境的搭建过程。系统分析了openEuler完善的软件包管理、优化的编译工具链、容器化开发支持和多语言环境等特性。通过实际操作演示了基础开发工具安装、VS Code编辑器配置以及Python等语言环境的搭建流程。实践表明,openEuler为开发者提供了高效稳定的工作平台,能够满足现代软件开发需求,具有较高的实用价值。

倔强的石头的博客 9419

AI大模型小白学习路径

人工智能技术仍在加速发展,现在正是入局的最好时机!我们从基础知识到应用,再到创造收入轻松上手。加入我们,将这项革命性技术融入日常生活和工作中。不容错过!想象一下,一门课程,不仅能掌握AI的基础理论与实践应用,还能紧跟最前沿的科研成果与行业趋势,是不是已经让人心跳加速?清华联合北理团队的这门课程,你值得拥有!课程大纲,深度揭秘!课程计划专门为零基础对AI有兴趣的同学量身打造,内容丰富,技术前沿。通过系统化的课程设计,对基础理论和高级实践的全面技能提升。

2301_76168381的博客 987

非常详细:AI大模型课程|非计算机专业转行人工智能,好就业吗?

摘要: 面对AI行业红利,许多非计算机专业求职者犹豫是否转行。文章指出,AI行业虽重视学历(体现学习能力),但更看重技术经验而非专业背景。通过案例说明,土木、水利等专业转AI成功者大有人在,北上广深薪资可达20-30K。建议通过培训、实践项目积累经验,强调终身学习与自我营销(如博客、项目展示)。当前大模型应用层人才稀缺,掌握RAG、Agent、微调等核心技能可抢占风口,部分岗位年薪超百万。文末提供AI学习资源,鼓励尽早行动抓住行业机遇。 (字数:149)

libaiup的博客 587

openEuler系统AI开发环境全栈部署指南

在国产操作系统openEuler上搭建AI开发环境是当前开发者关注的热点。作为面向数字基础设施的开源操作系统,openEuler在ARM架构优化和安全增强方面具有显著优势。通过Python多版本管理工具pyenv和科学计算环境Anaconda,可以高效构建隔离的开发环境。Jupyter Notebook作为交互式计算工具,结合TensorFlow和PyTorch等主流AI框架,为机器学习项目提供完整支持。本文详细演示了从系统配置到环境优化的全流程,特别针对国内开发者优化了镜像源配置,解决了环境部署中的常见问

weixin_33721344的博客 327

LangChain大模型应用落地实践(一):环境准备

LLMs是最近点燃了NLP的一把火。GPT3.5、GPT4的快速迭代,模型的优异表现在模型层面让大家隐约看到了理想中人工智能应有的样子;OpenAI的ChatGPT、微软的New Bing和Office Copilot也让我们看到了LLMs落地成产品的无限可能性。因此,国内各大企业也争相构建中文LLMs(比如,百度的文心一言),以及思考LLMs与现有产品融合升级后到底能碰撞出什么样的火花。模型(LLMs)产品(应用)GPT3.5ChatGPT。

2104
上一篇: 面试官问:“你为什么频繁跳槽?”,这个回答让我成功入职
下一篇: 保姆级:安装Anaconda最详细的教程(及Anaconda安装影响了原Python工程怎么办?)
帮帮志
博客等级 码龄9年 771粉丝 111原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值