Neural Network Intelligence (NNI) | 安装以及自动化超参数搜索指北

最新推荐文章于 2023-12-31 01:32:44 发布

訢詡

最新推荐文章于 2023-12-31 01:32:44 发布

阅读量1.2k

点赞数 1

分类专栏： NNI 文章标签： python NNI 深度学习

本文链接：https://blog.youkuaiyun.com/Andrwin/article/details/116696974

版权

本文详细介绍了如何安装NNI，并提供了配置项目、参数空间和配置文件的指导，通过NNI进行自动化超参数搜索。此外，还提到了NNI的WebUI使用，参照官方文档可进一步了解。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

一、安装NNI

pip install nni

不要用豆瓣的源，依赖包不全，建议用阿里云的源。

import nni

没有问题的时候就说明装好了。

二、配置

2.1 项目代码包含NNI

# 引入nni
import nni

# 这是个字典
params = vars(get_params())

# 从参数空间的json文件中按照某种策略去除一组
tuner_params= nni.get_next_parameter() 

# 更新参数字典
params.update(tuner_params)

# 上报中间结果
nni.report_intermediate_result(test_acc)

# 上报最终结果
nni.report_final_result(best_acc)

2.2 参数空间JSON

# search_space.json 这个文件放哪都行
{
    "dropout_rate":{"_type":"uniform","_value":[0.5, 0.9]},
    "conv_size":{"_type":"choice","_value":[2,3,5,7]},
    "hidden_size":{"_type":"choice","_value":[124, 512, 1024]},
    "batch_size": {"_type":"choice", "_value": [1, 4, 8, 16, 32]},
    "learning_rate":{"_type":"ch