03.【AI大模型对话】的开发环境 准备确认:需要的环境和需要的软件

部署运行你感兴趣的模型镜像

03.【AI大模型对话】的开发环境 准备确认:需要的环境和需要的软件

提示:帮帮志会陆续更新非常多的IT技术知识,希望分享的内容对您有用。本章分享的是springboot的使用。前后每一小节的内容是存在的有:学习and理解的关联性。【帮帮志系列文章】:每个知识点,都是写出代码和运行结果且前后关联上的去分析和说明(能大量节约您的时间)。

所有文章都*不会*直接把代码放那里,让您自己去看去理解。我希望我的内容对您有用而努力~

系列文章总目录,除了当前的AI大模型系列外,还包括java前后分离,Python,AI,大数据,游戏,面试等等,系列文章归纳在此:
系列文章—总目录



前言

前提:本项目使用的是Python语言,用户界面使用的是html,通过vue框架来实现的。所以:需要掌握和具备这些前提知识(前端用vue.js来交互数据,是为了更加贴合于公司上班和市场运用)
知识其实在我另外的文章分享了


一、确定环境

1.安装好了anaconda
anaconda自带一些Python的环境,不用像pycharm指定环境,后期大模型有很多第三方环境,用anaconda后期会方便一些
anaconda安装步骤
保姆级:安装Anaconda最详细的教程
非常详细的安装步骤分享,及Anaconda安装影响了原Python工程怎么办?分享了很多种处理方式

anaconda和pycharm的区别:
anaconda和pycharm用哪一个
分享了具体的区别

2.安装好了ollama
快速拉取一个模型到本地,并且运行起来这个模型,安装完毕且拉取了模型,打开ollama可以通过localhost:11434/api 访问及测试是否可以正常使用
02.【AI大模型对话】安装ollama,ollama环境变量配置及安装详细步骤:
详细分享了ollama安装及配置环境变量,拉取模型命令,设置拉取模型的位置等等

3.确定位置
确定ollama拉取的模型,模型是存储在电脑的哪个位置

3.1注意事项
不要随便乱输入命令拉取。强烈建议,在官网查看命令来拉取您确实需要用的那个模型。这个是根据硬件的设备来做合理选择的

如图:里面有gpt ,千问3 , deepseek等等
在这里插入图片描述
在任意选择一个点进去:
在这里插入图片描述
上一篇文章分享的就是 1.1GB的那个 一般的功能可以用了,当然也是最小的一个。不是硬盘有xxx了,我就可以拉xxx,如404GB的那个,找一个1T的硬盘不就好了,关键还得看电脑能不能跑起来这个模型,存是能存,跑呢?


二、开发环境的构建

1.开发环境

使用anaconda创建一个独立的项目运行 虚拟环境
就是用anaconda创建一个独立项目工程,不和其他工程共享解析器和环境,在这个工程环境里面配置

2.检测环境

在运行窗口输入命令:conda env list
在这里插入图片描述如图,这些在anaconda目录下的,就是我们的开发环境,就长这样
刚刚安装好anaconda,只有一个base,项目写到后面就会有很多个了

下一小节,安装pytorch
04.【AI大模型对话】安装pytorch,pytorch详细安装步骤及注意事项(CPU版本/GPU版本)
非常及超级详细的:pytorch详细安装步骤及注意事项,CPU安装pytorch,GPU安装pytorch,GPU里面每个不同版本又怎么安装

附加小节:
保姆级:安装Anaconda最详细的教程(及Anaconda安装影响了原Python工程怎么办?)
实现大模型,是最大限度趋近于商业化上班环境,使用conda管理的Python环境,用Anaconda来做科学计算和数据处理,此文分享安装Anaconda,及不想影响原有的python工程,分享了很多种处理方式


总结

说明一下:整个这个系列实现AI大模型对话项目。序号文章一共也就10几篇,只有核心图文重点操作步骤来实现这个目标
(包括这个AI大模型的环境搭建,深度学习,数据处理,流输出,流推理等等)
(基本上您边看边写:一个小时或者一上午就能跟着一起手搓一个,然后您可以自行添加功能和内容在您项目里面)

其他扩展细节知识点,本系列省略了(或者有链接)如:
Python语法的
vue语法的

(会陆续更新非常多的IT技术知识及泛IT的电商知识,可以点个关注,共同交流。ღ( ´・ᴗ・` )比心)
(也欢迎评论,提问。 我会依次回答~)

您可能感兴趣的与本文相关的镜像

Llama Factory

Llama Factory

模型微调
LLama-Factory

LLaMA Factory 是一个简单易用且高效的大型语言模型(Large Language Model)训练与微调平台。通过 LLaMA Factory,可以在无需编写任何代码的前提下,在本地完成上百种预训练模型的微调

评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值