伪NChris的博客

这个数据大约 140个G,128w的训练集。

卷积神经网络复杂度计算。

将文件夹中的图片数据，整理后，以csv格式输出，方便后续模型直接调取。下面就是一个基础的从本地读取数据的代码框架，模型调取csv文件，然后开始输入模型训练。

中间计算结果： layers * batch_size * sequence_length * (layers * sequence_length + 5 * dim(隐藏状态维度))对于int8 的 LLaMa-7B：32 * 1 * 2048 * ( 32 * 2048 + 5 * 4096) * 1 byte / 1024^3 = 5.25GB。对于 int8， LlaMa-7B 需要 7B1 byte = 7GB。对于 int8，LlaMa-7B 需要 7B1 byte = 7GB。

姑且分为如下的动作。

记录一些常用的数据集，以及下载方式。

代码，以及测试方案使用的是沐神的代码。

申明：资料大部分来源于d2l，如有错误还望指正。

在训练的时候一般都耗时非常之长，增加一个进度条可以很好的缓解训练时候的焦虑（对我而言非常）显示大概如上，我是很舒适了。

gym 环境一开始是openAI开发了制作强化学习的环境，还有之前非常有名的马里奥，但是这个已经被抛弃，使用了一个全新的名字gymnasium。强化学习像是一朵昙花，在20年到22年曾经出现过，被认为可能是未来的主流，随着大模型的出现，大部分人的精力都随之而去。很多代码库都随着python以及软件版本的更新，有了很多的修改，本人近期学习蘑菇书，在这记录学习中遇到的问题等。PS:有机会自己搭建一个fc游戏的环境，现有的环境大部分都已经年久失修，很多代码无法使用。是因为all是比较老的方式，会出现：的报错。

安装GPU版本，我的cuda版本是11.4，装了11.3的。下面连接可以下载不同版本的pytorch。退出 conda 环境。

吴恩达 Deep Neural Network Application_ Image Classification 修改

环境是在anaconda 下的安装切换环境有时候需要带端口和IP的，而不是localhost的方式启动，这样就可以直接使用另外一台计算机来运行代码，其中的IP更换为你电脑的IP即可关闭环境。

人工智Z常用名词解释1. 名词解释KNN k近邻算法CNN 卷积神经网络RNN 循环神经网络