- 博客(5)
- 收藏
- 关注
RSS订阅原创 【国内对话大模型】鹏城·脑海大模型的奥妙
长达半年的一个鹏程脑海200G大模型的训练过程，是人工智能界的又一宏大壮观的景象！该项目旨在打造NLP（自然语言处理）预训练大模型的底座，实现2个亿参数的稠密性人工智能大模型，将是对国内人工智能技术和国内人工智能训练芯片的一次巨大挑战！
2024-01-18 18:26:02
1212
1
原创 【MindsPore install】ubantu18.04+cuda10.1+cudnn7.6.5 华为最新深度学习框架MindSpore-GPU/CPU版本安装教程（超详细）
华为最新深度学习框架MindSpore-GPU/CPU版本安装教程（超详细）Mindspore简介CPU版本安装流程打开命令行窗口安装anaconda并创建虚拟环境：安装CPU版本mindspore测试GPU版本安装流程安装anaconda并创建虚拟环境：安装GPU版本mindspore查看cuda和cudnn版本及出现的相关问题安装MPI依赖库安装nccl依赖库测试Mindspore简介MindSpore是由华为于2019年8月推出的新一代全场景AI计算框架，2020年3月28日，华为宣布MindS
2020-08-07 15:59:34
2898
原创 【深度学习】权重初始化
初始化为0上一篇文章已经非常详细的讲了权重和偏差初始化为0，无法正常训练神经网络，初始化为0是不行的。初始化为相同的数字如果将每个隐藏单元的参数都初始化为相等的值，那么在正向传播时每个隐藏单元将根据相同的输入计算出相同的值，并传递至输出层。在反向传播中，每个隐藏单元的参数梯度值相等。因此，这些参数在使用基于梯度的优化算法迭代后值依然相等。之后的迭代也是如此。在这种情况下，无论隐藏单元有多少，...
2019-12-09 15:02:47
286
原创 【初始化为0为啥不行】深度学习为啥不能初始化为0以及初始化为0的各种情况表现
定义神经网络首先，针对一个四层的神经网络如下图，不同情况下进行0初始化；1、权重w和偏差b全部初始化为0如果权重w和偏差b全部被初始化为0，则first hidden layer到output layer第一次计算全部为0；然后，再进行权重和偏差使用梯度下降算法更新时，因为q为0，所以权重更新时变化量为0，但是偏差有所变化，而且每个偏差都不同，再次进行计算时所有层的输出结果理论上不再为0...
2019-11-21 20:35:44
2098
原创 安装python中的pyinstaller失败，安装pyinstaller的方法，及本人安装pyinstaller踩过的坑。
这里写自定义目录标题欢迎使用Markdown编辑器新的改变功能快捷键合理的创建标题，有助于目录的生成如何改变文本的样式插入链接与图片如何插入一段漂亮的代码片生成一个适合你的列表创建一个表格设定内容居中、居左、居右SmartyPants创建一个自定义列表如何创建一个注脚注释也是必不可少的KaTeX数学公式新的甘特图功能，丰富你的文章UML 图表FLowchart流程图导出与导入导出导入一开始输入p...
2019-08-05 09:11:27
9597
42
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人