【微软AutoML】AutoML工具 NNI 安装及使用体验
AutoML是机器学习中一个新的方向,用自动的方式寻找超参数组合,志在解决老大难的调参问题。众所周知,调参在炼丹术中是非常重要的,神经网络的大小、层数、学习率、Dropout等等都是超参数,都需要人为确定,而这个过程几乎是玄学。Google曾经在一篇研究LSTM的文章中(貌似叫On the state of the art of evaluation in neural language models)指出,老LSTM(1997年提出)调好参数可以超过很多新LSTM以及一些现在最先进最牛逼的模型,可见调参的重要性。而值得一提的是,这篇文章使用的就是谷歌自家的AutoML方法,用了800多块卡。。。
何为NNI
NNI就是微软的一款AutoML工具,开源的哦~
https://github.com/Microsoft/nni
An open source AutoML toolkit for neural architecture search and hyper-parameter tuning.
安装
目前貌似只支持Mac OS和Linux,其实我觉得就算不支持Windows也没什么的,因为AutoML是个非常需要算力的事情,没很多块GPU,AutoML的功能基本发挥不出来,所以你需要一个强大的服务器(不过微软怎么会放弃支持呢2333)
首先说一下,我是Mac OS X 10.13
2333,直接pip