ncnn：网络模型加速

那年聪聪

于 2020-02-19 17:15:12 发布

阅读量1.7k

点赞数 1

CC 4.0 BY-SA版权

分类专栏：深度学习与神经网络

本文链接：https://blog.youkuaiyun.com/duan19920101/article/details/104396509

本文介绍了一种适用于移动设备的轻量级深度学习推理框架NCNN。由于Caffe等框架在手机上存在依赖过多及缺乏CUDA支持的问题，NCNN应运而生，其特点是快速且体积小巧，特别适合于Android设备，同时也支持iOS、Linux和Windows。文章通过示例代码展示了如何使用NCNN进行图片输入和特征提取。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

深度学习算法要在手机上落地，caffe依赖太多，手机上也没有cuda，需要个又快又小的前向网络实现，ncnn就诞生了，它目前支持以下平台：跨平台，主要支持 android，次要支持 ios / linux / windows。

input data and extract output

#include <opencv2/core/core.hpp>
#include <opencv2/highgui/highgui.hpp>
#include "net.h"

int main()
{
    cv::Mat img = cv::imread("image.ppm", CV_LOAD_IMAGE_GRAYSCALE);
    int w = img.cols;
    int h = img.rows;

    // subtract 128, norm to -1 ~ 1
    ncnn::Mat in = ncnn::Mat::from_pixels_resize(img.data, ncnn::Mat::PIXEL_GRAY, w, h, 60, 60);
    float mean[1] = { 128.f };
    float norm[1] = { 1/128.f };
    in.substract_mean_normalize(mean, norm);

    ncnn::Net net;
    net.load_param("model.param");
    net.load_model("model.bin");

    ncnn::Extractor ex = net.create_extractor();
    ex.set_light_mode(true);
    ex.set_num_threads(4);

    ex.input("data", in);

    ncnn::Mat feat;
    ex.extract("output", feat);

    return 0;
}