Tensorflow实现DBN

原创

已于 2022-05-06 04:52:01 修改 · 7.7k 阅读

37 ·

CC 4.0 BY-SA版权

文章标签：

#DBN #MINST #deep learning #Tensorflow

于 2018-03-17 22:00:40 首次发布

使用Tensorflow实现的DBN在MINST数据集上达到97.22%的分类准确率。项目已上传至GitHub，还包含Pytorch版本实现。提供QQ群交流和作者联系方式，项目不再维护，但Pytorch版持续更新，实现包括DBN, DAE, GAN, VAE等方法，支持多种任务和数据集，具备自动记录、绘图等功能。" 116457599,10733985,Effie：一款融合思维导图与写作的创新工具,"['思维导图工具', 'Markdown写作', '创作软件', '效率工具']

My Github：

GitHub - zhuofupan/Tensorflow-Deep-Neural-Networks: 用Tensorflow实现的深度神经网络。

用Tensorflow实现的DBN 用于minst数据集分类，运行得到正确率为97.22%

QQ群交流：640571839

之前可能踢了一些打广告的，群被举报了，有人说搜不到群。

如果搜索不到群，可以先加我QQ：475366898

同时也可以看看我实现的 Pytorch 版

https://github.com/zhuofupan/Pytorch-Deep-Neural-Networks

Tensorflow 版本是用 1.X 实现的，现在TF 2.0 有 Keras 加持，我以前写的已经比较老旧了，同时也不打算维护更新了。

Pytorch 版实现了很多功能，如：

实现了 DBN, DAE, GAN, VAE, PCA, KPCA 等常用的数据驱动方法
实现了多

最低0.47元/天解锁文章

20 条评论

努力努力yr 2022.06.25
请问有没有dbn的例子啊

futurewq 2019.03.21
qq群不存在
- fuzimango回复futurewq 2019.04.12
  [reply]wangrongrongwq[/reply] 见鬼，我也不知道为啥搜不到了，先加我qq，我拉你。

qq_39758564 2018.11.22
你好，这个dbn程序可以用于负荷预测吗？大概要改哪里呢？

qq_40414379 2018.09.05
您好，我使用了您写的DBN网络进行分类，accuracy等等都很正常，最后的测试集平均准确率也不错，但是test accuracy一开始很高，然后反而一直在降低，最后稳定在0.8左右（就算直接使用训练集代替测试集也和前面所述情况一样），不清楚到底是什么原因，我已经在这边纠结了很久，还望学长解惑[code=python] Start Fine-tuning... epoch = 1 , loss = 0.8244 , accuracy = 0.6305 >>> test accuracy = 0.9642 epoch = 2 , loss = 0.5353 , accuracy = 0.7698 >>> test accuracy = 0.9782 epoch = 5 , loss = 0.5036 , accuracy = 0.7764 >>> test accuracy = 0.9563 epoch = 20 , loss = 0.2265 , accuracy = 0.9252 >>> test accuracy = 0.8609 epoch = 21 , loss = 0.2246 , accuracy = 0.9238 >>> test accuracy = 0.8565 epoch = 80 , loss = 0.09475 , accuracy = 0.9659 >>> test accuracy = 0.841 epoch = 81 , loss = 0.09475 , accuracy = 0.9643 >>> test accuracy = 0.8361 epoch = 100 , loss = 0.08391 , accuracy = 0.9686 >>> test accuracy = 0.8222 Test fault 0: [Accuracy]: 0.962593 Test fault 1: [Accuracy]: 0.969178 Test fault 2: [Accuracy]: 0.980707 Test fault 3: [Accuracy]: 1.000000 [Average Accuracy]: 0.978150 [/code]
- weixin_41820688回复qq_40414379 2020.07.09
  [reply]qq_40414379[/reply]你好，你的数据集是怎么导入的？可以给个联系方式教我一下！谢谢
- qq_43214985回复qq_40414379 2019.07.25
  [reply]qq_40414379[/reply] 怎样把自己的数据导入的？？
- qq_40414379回复qq_40414379 2018.09.05
  [reply]qq_40414379[/reply]数据集很简单，如下所示 [code=python] def generated_data(): size = 40000 y_data = np.zeros((size,4), dtype=float) a1 = sorted(np.random.rand(size, 1)) a2 = sorted(np.random.rand(size, 1)) a3 = sorted(np.random.rand(size, 1)) a4 = sorted(np.random.rand(size, 1)) x_data = np.concatenate((a1,a2,a3,a4), axis=1) for i in range(size): # 不包括100 if 3 < a1[i]+a2[i]+a3[i]+a4[i] <= 4: y_data[i] = [1, 0, 0, 0] elif 2 < a1[i]+a2[i]+a3[i]+a4[i] <= 3: y_data[i] = [0, 1, 0, 0] elif 1 < a1[i]+a2[i]+a3[i]+a4[i] <= 2: y_data[i] = [0, 0, 1, 0] else: y_data[i] = [0, 0, 0, 1] x_data = x_data.astype('float32') y_data = y_data.astype('float32') return (x_data,\ y_data) [/code]

高某人upup 2018.07.09
[code=python] if select_case==3: classifier = supervised_sAE( out_func='softmax', en_func='affine', # encoder：[sigmoid] [表情] [affine] use_for='classification', loss_func='mse', # decoder：[sigmoid] with ‘cross_entropy’ [表情] [affine] with ‘mse’ struct=[784, 100, 100, 10], lr=1e-4, epochs=60, batch_size=32, dropout=0, ae_type='dae', # ae [表情] dae [表情] sae noise_type='mn', # Gaussian noise (gs) [表情] Masking noise (mn) beta=0.25, # 惩罚因子权重（KL项 [表情] 非噪声样本项） p=0.5, # DAE：样本该维作为噪声的概率 / SAE稀疏性参数：期望的隐层平均活跃度（在训练批次上取平均） ae_lr=1e-3, ae_epochs=20) [/code] 这是我用你的GitHub上的SAE的代码时，对sae传的参数。但是报错： Traceback (most recent call last): File "dbn_prediction-master/test/classification_MINST.py", line 82, in <module> ae_epochs=20) File "dbn_prediction-master\models\sup_sae.py", line 73, in build_model lr=self.ae_lr) TypeError: __init__() got an unexpected keyword argument 请问你有没有遇到这种情况？
- fuzimango回复高某人upup 2018.07.09
  [reply]GPPPPPPPP[/reply] 可以看看ae.py里的参数列表 [code=python] def __init__(self, name='AE-1', loss_func='mse', # decoder：[sigmoid] with ‘cross_entropy’ [表情] [affine] with ‘mse’ ae_type='ae', # ae [表情] dae [表情] sae act_type=['sigmoid','affine'], noise_type='gs', # Gaussian noise (gs) [表情] Masking noise (mn) beta=0.5, # DAE：噪声损失系数 [表情] SAE：稀疏损失系数 p=0.5, # DAE：样本该维作为噪声的概率 [表情] SAE稀疏性参数：期望的隐层平均活跃度（在训练批次上取平均） ae_struct=[784,100], ae_epochs=10, batch_size=32, ae_lr=1e-3): [/code] 里面是ae_lr
- 高某人upup回复高某人upup 2018.07.09
  [reply]GPPPPPPPP[/reply] TypeError: __init__() got an unexpected keyword argument 'lr'

西檬饭 2018.07.07
我在跑我的训练数据的时候遇到这样的错误：[code=python] ValueError: Tensor conversion requested dtype float64 for Tensor with dtype float32: 'Tensor("rbm-1/W/read:0", shape=(120, 100), dtype=float32)' [/code] 我尝试过找原因，但是没有解决
- as_15538191859回复西檬饭 2019.04.12
  [reply]qq_23869697[/reply] 你好，请问你自己的数据集是图像数据集吗？请问你是怎么处理的呢
- fuzimango回复西檬饭 2018.07.09
  [reply]qq_23869697[/reply] 类型转换问题。。。float32转float64

qq_40573641 2018.05.29
如何使用您的代码、？没有看到介绍，我的数据的数据想导入跑来试试应该在哪里修改呢~
- 颓废谷主回复qq_40573641 2019.11.05
  [reply]qq_40573641[/reply] 是不是训练集数据不平衡问题啊
- qq_43214985回复今天你吃饱了么 2019.07.25
  [reply]weixin_43963075[/reply] 怎样把自己的数据导入？？
- 今天你吃饱了么回复qq_40573641 2019.03.29
  请问您有没有解决如何导入自己的数据集？？
- fuzimango回复qq_40573641 2018.06.05
  [reply]qq_40573641[/reply] test里面是执行程序，数据集需要自己做成python数据集，np.readtxt了解一下