Yancy的博客

一、超参数定义：超参数是在开始学习过程之前设置值的参数，而不是通过训练得到的参数数据。和一般的参数比如权重、偏置之类的有差别。通常情况下，需要对超参数进行优化，给学习机选择一组最优超参数，以提高学习的性能和效果。有时一个选项被设为学习算法不用学习的超参数，是因为它太难优化了。更多的情况是，该选项必须是超参数，因为它不适合在训练集上学习。这适用于控制模型容量的所有超参数。如果在训练集上学...

【本文适合初次接触正则化，想了解正则化是什么玩意儿的读者】【更深层次的正则化知识，我将之后在《深度学习精髓与细节知识合集》专栏中继续补充。】我们在《深度学习精髓与细节知识合集》专栏中的博文《机器学习：模型的容量》中简化地讨论了修改学习算法的方法：通过增加或减少学习算法可选假设空间的函数来增加或减少模型的表示容量。但这只是修改学习算法的冰山一角。正则化是深度学习中的一项非常重要的工作，它的地...

【简明扼要地归纳了机器学习模型的容量的含义与影响，全文共2267字，阅读约15分钟】本文我们来简明扼要地探讨机器学习中模型的容量（capacity）。我会收录于我的专栏《深度学习精髓与细节知识合集》中，由于平时比较忙，此专栏也将陆续（缓慢）地记录研究或实践中一点一滴的灵感。通俗地讲，模型的容量是指它拟合各种函数的能力。比如，模型是3次多项式构成的函数：，其中权重w和偏置b的含义大家应该都很...

在深度学习中，我们常常需要生成一个list.txt来存放原始数据和标注后的数据的路径。我的代码如下：主要涉及到循环方法、路径字符串的生成、文件读写等操作，有python基础同学应该一看就能看懂，可以在此代码基础上修改获得自己想要的功能，记得更改成你自己的路径名称哦。#!/usr/bin/env python3# -*- coding: utf-8 -*-"""Created on ...

在进行深度学习时，使用labelme标注工具标注了一系列图像，结果是json格式，每个Json文件需要在标注环境下执行一句shell命令来解析。于是乎想到用shell脚本方法写个循环。首先先用文本建立一个.sh的文件，然后如下：这个脚本的作用就是遍历文件夹里所有.json文件，首先要判断后缀是不是.json，然后读取文件名，命名新的字符串，然后执行一句shell命令$cmd。这句命令行里面...