【入门到实战】OpenHarmony南向子系统开发:Neural Network Runtime设备接入指南

鸿蒙开发(OpenHarmony)NNRt设备接入场景 NNRt(Neural Network Runtime,神经网络运行时)是面向AI领域的跨芯片推理计算运行时,作为中间桥梁连通上层AI推理框架和底层加速芯片,实现AI模型的跨芯片推理计算。 阅读详情

往期鸿蒙5.0全套实战文章必看:(文中附带全栈鸿蒙5.0学习资料)


Neural Network Runtime设备接入

概述

功能简介

NNRt(Neural Network Runtime,神经网络运行时)是面向AI领域的跨芯片推理计算运行时,作为中间桥梁连通上层AI推理框架和底层加速芯片,实现AI模型的跨芯片推理计算。

NNRt开放了设备接口,芯片厂商通过设备接口将专有加速芯片接入NNRt,从而实现与OpenHarmony社区生态的对接。以下内容将介绍芯片如何接入NNRt。

基本概念

在开发前,开发者需要先了解以下概念,以便更好地理解全文内容:

  • HDI(Hardware Device Interface):OpenHarmony硬件设备接口,定义系统中跨进程通信的接口,实现服务间的跨进程通信。
  • IDL(Interface Description Language):接口描述语言,是HDI接口的语言格式。

约束与限制

  • 系统版本:OpenHarmony主干版本。
  • 开发环境:Ubuntu 18.04及以上。
  • 接入设备:具备AI计算能力的芯片。

运作机制

NNRt通过HDI接口实现与设备芯片的对接,由HDI接口实现跨进程通信。

图1 NNRt架构图

架构图

整个架构主要分为三层,AI应用在应用层,AI推理框架和NNRt在系统层,设备服务在芯片层。AI应用如果要使用AI专用加速芯片进行模型推理,需要经过AI推理框架和NNRt才能调用到底层AI专用加速芯片,NNRt就是负责适配底层各种AI专用加速芯片的中间层。NNRt开放了标准统一的HDI设备接口,众多AI专用加速芯片都可以通过HDI接口接入OpenHarmony。此外NNRt也开放了标准统一的接口对接上层各种AI推理框架。

程序运行时,AI应用、AI推理框架、NNRt都运行在用户进程中,底层AI芯片设备服务运行在HDI服务进程中。NNRt根据HDI接口实现了HDI Client,服务端也需要根据HDI接口实现HDI Service,两者通过OpenHarmony标准的HDF子系统实现跨进程通信。

开发指导

场景介绍

当需要将一款AI加速芯片接入NNRt的时候,可以参考下文。下文以RK3568芯片为例,展示RK3568 CPU如何通过NNRt的V2.0版本HDI接口接入NNRt,并完成AI模型推理。V1.0版本HDI接口接入NNRt的流程与此类似。

依赖说明:该教程展示的RK3568 CPU接入NNRt并没有真正实现CPU的驱动,而是借用了MindSpore Lite的runtime和CPU算子,因此会依赖MindSpore Lite的动态库以及头文件。实际开发时并不需要依赖MindSpore Lite的任何库或者头文件。

开发流程

AI专用加速芯片接入NNRt的整体流程如下:

图2 AI专用加速芯片接入NNRt流程

开发流程

开发步骤

AI芯片设备HDI服务开发者具体可通过以下步骤实现AI专用加速芯片对接NNRt:

生成HDI头文件

开源社区下载OpenHarmony的代码,编译drivers_interface部件,生成HDI接口的头文件。

  1. 下载源码。

  2. 进入OpenHarmony源码根目录,编译NNRt的IDL接口文件(以RK3568产品为例):

    ./build.sh --product-name rk3568 –ccache --build-target drivers_interface_nnrt
    

    编译完成后,会在out/rk3568/gen/drivers/interface/nnrt/v2_0目录下生成C++类型的HDI头文件。若需要生成C类型的头文件,请在编译之前使用如下命令对drivers/interface/nnrt/v2_0/BUILD.gn文件中的language配置项进行设置。

    language = "c"
    

    生成头文件目录如下所示:

    out/rk3568/gen/drivers/interface/nnrt
    └── v2_0
        ├── drivers_interface_nnrt__libnnrt_proxy_2.0_external_deps_temp.json
        ├── drivers_interface_nnrt__libnnrt_stub_2.0_external_deps_temp.json
        ├── innrt_device.h                        # 设备接口头文件
        ├── iprepared_model.h                     # 编译AI模型对象头文件
        ├── libnnrt_proxy_2.0__notice.d
        ├── libnnrt_stub_2.0__notice.d
        ├── model_types.cpp                       # AI模型结构定义实现文件
        ├── model_types.h                         # AI模型结构定义头文件
        ├── nnrt_device_driver.cpp                # 设备驱动实现参考样例
        ├── nnrt_device_proxy.cpp
        ├── nnrt_device_proxy.h
        ├── nnrt_device_service.cpp               # 设备服务端实现参考样例
        ├── nnrt_device_service.h                 # 设备服务端头文件
        ├── nnrt_device_stub.cpp
        ├── nnrt_device_stub.h
        ├── nnrt_types.cpp                        # 数据类型定义实现文件
        ├── nnrt_types.h                          # 数据类型定义头文件
        ├── node_attr_types.cpp                   # AI模型算子属性定义实现文件
        ├── node_attr_types.h                     # AI模型算子属性定义
        ├── prepared_model_proxy.cpp
        ├── prepared_model_proxy.h
        ├── prepared_model_service.cpp            # 编译AI模型对象服务端实现参考样例
        ├── prepared_model_service.h              # 编译AI模型对象服务端头文件
        ├── prepared_model_stub.cpp
        └── prepared_model_stub.h
    
实现HDI服务
  1. 进入OpenHarmony源码根目录,在drivers/peripheral目录下新建开发目录nnrt,用于HDI服务开发。开发目录结构如下所示:

    drivers/peripheral/nnrt
    ├── bundle.json
    ├── v2_0
        ├── BUILD.gn                                  # 代码编译脚本文件
        └── hdi_cpu_service                           # 自定义目录
            ├── BUILD.gn                              # 代码编译脚本文件
            ├── include
            │   ├── nnrt_device_service.h             # 设备服务端头文件
            │   ├── node_functions.h                  # 非必须,由具体实现决定
            │   ├── node_registry.h                   # 非必须,由具体实现决定
            │   └── prepared_model_service.h          # 编译AI模型对象服务端头文件
            └── src
                ├── nnrt_device_driver.cpp            # 设备驱动实现文件
                ├── nnrt_device_service.cpp           # 设备服务端实现文件
                ├── nnrt_device_stub.cpp              # 非必须,由具体实现决定
                ├── node_attr_types.cpp               # 非必须,由具体实现决定
                ├── node_functions.cpp                # 非必须,由具体实现决定
                ├── node_registry.cpp                 # 非必须,由具体实现决定
                └── prepared_model_service.cpp        # 编译AI模型对象服务端实现文件
    
  2. 实现设备驱动,无特殊需求可直接使用IDL文件编译生成的nnrt_device_driver.cpp文件,否则根据具体驱动开发。

  3. 实现服务接口,可参考nnrt_device_service.cpp和prepared_model_service.cpp实现文件。

  4. 编译驱动和服务的实现文件为共享库。

    在drivers/peripheral/nnrt/v2_0/hdi_cpu_service/下新建BUILD.gn文件,文件内容如下所示。

    import("//build/ohos.gni")
    import("//drivers/hdf_core/adapter/uhdf2/uhdf.gni")
    
    ohos_shared_library("libnnrt_service_2.0") {
      include_dirs = []
      sources = [
        "src/nnrt_device_service.cpp",
        "src/node_functions.cpp",
        "src/node_registry.cpp",
        "src/prepared_model_service.cpp",
        "src/shared_buffer_parser.cpp",
        "src/validation.cpp",
      ]
    
      external_deps = [
        "c_utils:utils",
        "drivers_interface_nnrt:libnnrt_stub_2.0",
        "hdf_core:libhdf_utils",
        "hilog_native:libhilog",
        "ipc:ipc_core",
      ]
    
      install_images = [ chipset_base_dir ]
      subsystem_name = "hdf"
      part_name = "drivers_peripheral_nnrt"
    }
    
    ohos_shared_library("libnnrt_driver") {
      include_dirs = []
      sources = [ "src/nnr_device_driver.cpp" ]
      deps = [ ":libnnrt_service_2.0" ]
    
      external_deps = [
        "c_utils:utils",
        "drivers_interface_nnrt:libnnrt_stub_2.0",
        "hdf_core:libhdf_host",
        "hdf_core:libhdf_ipc_adapter",
        "hdf_core:libhdf_utils",
        "hdf_core:libhdi",
        "hilog_native:libhilog",
        "ipc:ipc_core",
      ]
    
      install_images = [ chipset_base_dir ]
      subsystem_name = "hdf"
      part_name = "drivers_peripheral_nnrt"
    }
    
    group("hdf_nnrt_service") {
      deps = [
        ":libnnrt_driver",
        ":libnnrt_service_2.0",
      ]
    }
    

    将group("hdf_nnrt_service")添加到drivers/peripheral/nnrt/v2_0/BUILD.gn文件中,以便在更上目录层级就能引用。

    if (defined(ohos_lite)) {
      group("nnrt_entry") {
        deps = []
      }
    } else {
      group("nnrt_entry") {
        deps = [ "./hdi_cpu_service:hdf_nnrt_service" ]
      }
    }
    

    新建drivers/peripheral/nnrt/bundle.json用于定义新增的drivers_peripheral_nnrt部件。

    {
      "name": "drivers_peripheral_nnrt",
      "description": "Neural network runtime device driver",
      "version": "4.0",
      "license": "Apache License 2.0",
      "component": {
        "name": "drivers_peripheral_nnrt",
        "subsystem": "hdf",
        "syscap": [""],
        "adapter_system_type": ["standard"],
        "rom": "1024KB",
        "ram": "2048KB",
        "deps": {
          "components": [
            "c_utils",
            "hdf_core",
            "hilog_native",
            "ipc"
          ],
          "third_part": [
            "bounds_checking_function"
          ]
        },
        "build": {
          "sub_component": [
            "//drivers/peripheral/nnrt/v2_0:nnrt_entry"
          ],
          "test": [
          ],
          "inner_kits": [
          ]
        }
      }
    }
    
声明HDI服务

在对应产品的uhdf hcs配置文件中声明NNRt的用户态驱动与服务。例如针对RK3568,服务需要在vendor/hihope/rk3568/hdf_config/uhdf/device_info.hcs文件中新增如下配置:

nnrt :: host {
    hostName = "nnrt_host";
    priority = 50;
    uid = "";
    gid = "";
    caps = ["DAC_OVERRIDE", "DAC_READ_SEARCH"];
    nnrt_device :: device {
        device0 :: deviceNode {
            policy = 2;
            priority = 100;
            moduleName = "libnnrt_driver.z.so";
            serviceName = "nnrt_device_service";
        }
    }
}

注意:修改hcs文件需要删除out目录重新编译,才能生效。

配置host进程用户ID和组ID

对于新增的nnrt_host进程的场景,需要配置对应进程的用户ID和组ID。 进程的用户ID在文件base/startup/init/services/etc/passwd中配置,进程的组ID在文件base/startup/init/services/etc/group中配置。

# 在base/startup/init/services/etc/passwd新增
nnrt_host:x:3311:3311:::/bin/false

# 在base/startup/init/services/etc/group新增
nnrt_host:x:3311:
配置SELinux

OpenHarmony已经开启SELinux特性,需要对新增的进程和服务配置相应的SELinux规则,用于运行host进程访问某些资源、发布HDI服务等。

  1. 在base/security/selinux/sepolicy/ohos_policy/drivers/adapter/public/hdf_service_contexts文件中新增配置:

    # 新增配置
    nnrt_device_service        u:object_r:hdf_nnrt_device_service:s0 
    

    nnrt_host为声明HDI服务步骤中配置的进程名称,下同。

  2. 在base/security/selinux/sepolicy/ohos_policy/drivers/adapter/public/hdf_service.te文件中新增配置:

    # 新增配置
    type hdf_nnrt_device_service, hdf_service_attr; 
    
  3. 在base/security/selinux/sepolicy/ohos_policy/drivers/adapter/public/hdfdomain.te文件中新增配置:

    # 新增配置
    neverallow { domain -hdfdomain -sadomain } { hdfdomain -nnrt_host -allocator_host -hdf_public_domain }:binder call; 
    
  4. 在base/security/selinux/sepolicy/ohos_policy/drivers/adapter/public/type.te文件中新增配置:

    # 新增配置
    type nnrt_host, hdfdomain, domain;
    
  5. 在base/security/selinux/sepolicy/ohos_policy/drivers/adapter/vendor/hdf_devmgr.te文件中新增配置:

    # 新增配置
    allow hdf_devmgr nnrt_host:binder { call transfer };
    allow hdf_devmgr nnrt_host:dir { search };
    allow hdf_devmgr nnrt_host:file { open read write };
    allow hdf_devmgr nnrt_host:process { getattr };
    
  6. 在base/security/selinux/sepolicy/ohos_policy/drivers/adapter/vendor/init.te文件中新增配置:

    # 新增配置
    allow init nnrt_host:process { rlimitinh siginh transition };
    
  7. 在base/security/selinux/sepolicy/ohos_policy/startup/init/public/chipset_init.te文件中作如下修改:

    找到chipset_init这一行:

    allow chipset_init { light_host input_user_host wifi_host camera_host power_host audio_host }:process { rlimitinh siginh transition };
    

    在host列表中增加nnrt_host:

    allow chipset_init { light_host input_user_host wifi_host camera_host power_host audio_host nnrt_host }:process { rlimitinh siginh transition };
    
  8. 新建nnrt_host.te配置文件:

    # 创建nnrt文件夹
    mkdir base/security/selinux/sepolicy/ohos_policy/drivers/peripheral/nnrt
    
    # 创建vendor文件夹
    mkdir base/security/selinux/sepolicy/ohos_policy/drivers/peripheral/nnrt/vendor
    
    # 创建nnrt_host.te文件
    touch base/security/selinux/sepolicy/ohos_policy/drivers/peripheral/nnrt/vendor/nnrt_host.te
    
  9. 将所需的权限写入nnrt_host.te文件中:

    allow nnrt_host dev_hdf_kevent:chr_file { ioctl };
    allow nnrt_host hilog_param:file { read open map };
    allow nnrt_host sh:binder { transfer };
    allow nnrt_host samgr:binder { call };
    allow nnrt_host dev_ashmem_file:chr_file { open };
    allow nnrt_host dev_unix_socket:dir { search };
    allow nnrt_host hdf_device_manager:hdf_devmgr_class { get };
    allow nnrt_host hdf_nnrt_device_service:hdf_devmgr_class { add get };
    allow nnrt_host dev_console_file:chr_file { read write };
    allow nnrt_host debug_param:file { read open map };
    allow nnrt_host sa_device_service_manager:samgr_class { get };
    allow nnrt_host hdf_devmgr:binder { call transfer };
    allow nnrt_host hdf_nnrt_device_service:binder { call };
    allow nnrt_host sysfs_devices_system_cpu:file { read open getattr };
    allow sh hdf_nnrt_device_service:hdf_devmgr_class { add get };
    allow sh hdf_hci_interface_service:hdf_devmgr_class { get };
    allow sh nnrt_host:dir { getattr search };
    allow sh nnrt_host:file { open read };
    allow sh nnrt_host:process { getattr };
    allow sh nnrt_host:binder { call };
    allow sh nnrt_host:fd { use };
    
  10. 由于SELinux是白名单访问的权限机制,需要根据实际权限需求配置。将服务启动之后,可通过以下dmesg命令查看avc告警, avc告警会给出缺少的权限。

    hdc_std shell
    dmesg | grep nnrt
    
配置部件编译入口

以RK3568产品为例:

vim //productdefine/common/inherit/chipset_common.json

在"subsystems", "subsystem":"hdf", "components"中添加:

{
  "component": "drivers_peripheral_nnrt",
  "features": []
}
删除out目录并编译整个系统
# 删除out目录
rm -rf ./out

# 编译
./build.sh --product-name rk3568 –ccache --jobs=4

调测验证

服务开发完成后,可以使用XTS用例验证基本功能和兼容性。开发者可通过以下步骤进行验证:

  1. 编译NNRt的hats用例,用例在test/xts/hats/ai/nnrt/hdi目录下。

    # 进入hats目录
    cd test/xts/hats
    
    # 编译hats测试用例
    ./build.sh suite=hats system_size=standard product_name=rk3568
    
    # 回到代码根目录
    cd -
    

    编译好的测试用例可执行文件HatsHdfNnrtFunctionTest会输出到out/rk3568/suites/hats/testcases/下。

  2. 将测试用例push到RK3568设备的/data/local/tmp/目录下。

    # 将测试用例可执行文件推送到设备上,HatsHdfNnrtFunctionTest是测试用例可执行文件。
    hdc_std file send out/rk3568/suites/hats/testcases/HartsHdfNnrtFunctionTest /data/local/tmp/
    
    # 给测试用例可执行文件加上权限。
    hdc_std shell "chmod +x /data/local/tmp/HatsHdfNnrtFunctionTest"
    
  3. 执行用例并查看结果。

    # 执行测试用例
    hdc_std shell "/data/local/tmp/HatsHdfNnrtFunctionTest"
    

    测试报告显示已通过47个用例,说明所有hats用例已执行成功,服务已通过兼容性测试。

    ...
    [----------] Global test environment tear-down
    Gtest xml output finished
    [==========] 47 tests from 3 test suites ran. (515 ms total)
    [  PASSED  ] 47 tests.
    

开发实例

完整Demo代码可以参考社区实现。

  1. 进入OpenHarmony源码根目录,在drivers/peripheral路径下创建nnrt目录,拷贝NNRt源码路径foundation/ai/neural_network_runtime下的example/driver/nnrt/v2_0目录到drivers/peripheral/nnrt路径下。

    cp -r example/drivers/nnrt/v2_0 drivers/peripheral/nnrt
    
  2. 在drivers/peripheral/nnrt下补充bundle.json文件,bundle.json的写法参考本教程上面开发步骤中的实现HDI服务章节。

  3. 由于Demo依赖MindSpore Lite CPU算子,因此需要添加MindSpore Lite依赖文件:

    • 在OpenHarmony源码根目录执行以下命令编译MindSpore Lite动态库。MindSpore源码在OpenHarmony源码根目录third_party/mindspore位置下。
      # 编译mindspore动态库
      ./build.sh --product-name rk3568 -ccaache --jobs 4 --build-target mindspore_lib
      
    • 在drivers/peripheral/nnrt/v2_0下创建mindspore目录,用于存放mindspore动态库和头文件。
      mkdir drivers/peripheral/nnrt/v2_0/mindspore
      
    • 将MindSpore源码中mindspore-src/source/include目录拷贝到drivers/peripheral/nnrt/v2_0/mindspore目录下。
      cp third_party/mindspore/mindspore-src/source/include drivers/peripheral/nnrt/v2_0/mindspore
      
    • Demo还依赖mindspore的schema文件:
      # 创建mindspore_schema目录
      mkdir drivers/peripheral/nnrt/v2_0/hdi_cpu_service/include/mindspore_schema
      
      # 从third_party目录拷贝mindspore schema文件
      cp third_party/mindspore/mindspore-src/source/mindspore/lite/schema/* drivers/peripheral/nnrt/v2_0/hdi_cpu_service/include/mindspore_schema/
      
    • 将编译好的OpenHarmony的MindSpore Lite动态库拷贝到mindspore目录下。
      # 在drivers/peripheral/nnrt/v2_0/mindspore下创建mindspore目录
      mkdir drivers/peripheral/nnrt/v2_0/mindspore/mindspore
      
      # 从out目录将mindspore动态库拷贝到drivers/peripheral/nnrt/v2_0/mindspore/mindspore下
      cp out/rk3568/package/phone/system/lib/libmindspore-lite.so drivers/peripheral/nnrt/v2_0/mindspore/mindspore/
      
  4. 其他配置

鸿蒙OpenHarmony【Neural Network Runtime设备接入】子系统 NNRt(Neural Network Runtime,神经网络运行时)是面向AI领域的跨芯片推理计算运行时,作为中间桥梁连通上层AI推理框架和底层加速芯片,实现AI模型的跨芯片推理计算。 阅读详情

相关推荐

鸿蒙OpenHarmony【AI服务开发之Neural Network Runtime设备接入】子系统

NNRt(Neural Network Runtime,神经网络运行时)是面向AI领域的跨芯片推理计算运行时,作为中间桥梁连通上层AI推理框架和底层加速芯片,实现AI模型的跨芯片推理计算。

asd95279527p的博客 1278

OpenHarmony AI服务 - Neural Network Runtime设备接入指导

当需要将一款AI加速芯片接入NNRt的时候,可以参考下文。下文以RK3568芯片为例,展示RK3568 CPU如何通过NNRt的V2.0版本HDI接口接入NNRt,并完成AI模型推理。V1.0版本HDI接口接入NNRt的流程与此类似。依赖说明:该教程展示的RK3568 CPU接入NNRt并没有真正实现CPU的驱动,而是借用了MindSpore Lite的runtime和CPU算子,因此会依赖MindSpore Lite的动态库以及头文件。

__Benco的博客 1490

OpenHarmony-AI调研

基于OpenHarmony-5.0.0版本以及laval社区等网络资料调研当前OH上的AI发展情况。

qqq1112345的博客 1370

鸿蒙5.0&next开发【Neural Network Runtime Kit简介】Neural Network运行时服务

Neural Network Runtime(NNRt, 神经网络运行时)是面向AI领域的跨芯片推理计算运行时,作为中间桥梁连通上层AI推理框架和底层加速芯片,实现AI模型的跨芯片推理计算。

bbq的博客 1121

润开鸿AT32开发平台与OpenHarmony融合实践

嵌入式开发平台与开源操作系统的深度融合是当前物联网教育与实践的热点方向。以ARM Cortex-M架构为核心的MCU平台通过标准化接口与OpenHarmony生态对接,实现了从硬件驱动到分布式能力的全栈技术整合。这种融合不仅提升了实时控制与边缘计算的性能边界,更为教育领域提供了多学科交叉的创新实验平台。以润开鸿AT32开发平台为例,其通过OpenHarmony兼容性测评的关键在于实现了HDF驱动框架适配与HiBus通信机制,使得人工智能ROS无人车等复杂应用可以在教学场景中快速落地。开发者需重点关注内存优化

weixin_34226182的博客 313

鸿蒙进阶——HDI及IDL硬件接口IPC框架小结

HDI(Hardware Device Interface):OpenHarmony硬件设备接口,定义系统中跨进程通信的接口,实现服务间的跨进程通信

最美不过,心中有梦,身旁有你! 3913

鸿蒙进阶——一文读懂Mindspore-NNRT-HDF工作流程

本文介绍了华为MindSpore AI框架及其与NNRT(神经网络运行时)的协同工作方式。MindSpore作为AI推理框架,通过NNRT实现模型在NPU等硬件上的高效推理。文章详细阐述了模型加载、初始化及推理流程,解析了NNRT的架构设计及其与MindSpore的交互机制,包括在线构图、模型编译和推理执行等关键环节。同时概述了OpenHarmony HDF驱动框架的结构和通信原理,以及HDI接口在NNRT与硬件通信中的作用。整体呈现了从AI模型到硬件加速的完整技术链路。

最美不过,心中有梦,身旁有你! 1824

RK3568 OpenHarmony3.2 AI NPU适配

Neural Network Runtime(NNRt, 神经网络运行时)是面向AI领域的跨芯片推理计算运行时,作为中间桥梁连通上层AI推理框架和底层加速芯片,实现AI模型的跨芯片推理计算。本文介绍芯片厂商如何在将专有加速芯片接入NNRt,接入OpenHarmony社区生态。整体适配思路:在虚拟机平台上通过Build.gn的方式编译得到可执行文件, 然后将可执行文件及对应鸿蒙系统的api库文件推送到板子,最后将.rknn后缀结尾的模型文件以及图片文件等输入资源拷贝至RK3568进行模型的运行。

Martian_Jonas的博客 1905

OpenHarmony实战开发-Neural Network Runtime对接AI推理框架开发指导

Neural Network Runtime作为AI推理引擎和加速芯片的桥梁,为AI推理引擎提供精简的Native接口,满足推理引擎通过加速芯片执行端到端推理的需求。

2401_82546228的博客 933

神经网络量化感知训练:从FP32到INT8的精度保持——校准、伪量化与嵌入式部署实战

高精度、低延迟、低功耗三者难以兼得。以ResNet-50为例,其FP32全精度模型体积约100MB,在ARM Cortex-M7微控制器上推理延迟高达245ms,功耗超过500mW——这对于电池供电的IoT设备而言完全不可接受。模型量化(Model Quantization)技术通过将FP32(32位浮点)权重和激活值映射到INT8(8位整型),可将模型体积压缩75%,推理延迟降低2.54倍,功耗下降60%75%。

从事移动开发八年,csdn博客专家,阿里云特邀专家,华为云云享专家,高级网络信息安全工程师,大数据工程师(高级),python技术开发(高级),HarmonyOS 应用开发者高级认证,现在某学校任教。 1万+

华为NB-IoT南北向接入及特性开发指导

华为NB-IoT南北向接入及特性开发指导,很实用的文档,希望能对大家有帮助。

OpenHarmony可穿戴AI开发:终端智能范式迁移实践

可穿戴AI不是简单移植模型,而是面向资源严苛终端的系统级智能重构。其核心在于理解边缘设备的物理约束(如RAM不足128KB、ADC采样率波动、毫瓦级功耗),并基于此重新设计感知-决策-执行闭环。开源鸿蒙凭借分布式软总线与统一元能力,突破单设备算力与传感器瓶颈,实现跨端数据协同与AI能力复用;而轻量级时序模型(如TCN、GRU)与硬件感知的管道化部署(如事件驱动推理、混合精度量化、传感器-模型语义对齐),则保障低延迟、高鲁棒性与长续航。本文聚焦OpenHarmony平台在Hi3861等四款主流芯片上的实证路径

weixin_34347651的博客 451

用Python可视化硅晶体生长:3D图解<100>/<110>/<111>晶向差异

本文通过Python 3D可视化技术,详细解析了硅晶体生长中<100>、<110>、<111>三种关键晶向的差异及其在半导体工业中的应用。从密勒指数转换到原子密度计算,结合交互式3D模型展示不同晶向的原子排列特性,帮助读者深入理解晶向对芯片性能的影响。

weixin_42567752的博客 573

OpenHarmony NDK工具链详解:交叉编译原理与实战避坑

NDK(Native Development Kit)是操作系统提供C/C++原生开发能力的核心工具集。OpenHarmony作为独立操作系统,其内核、ABI和系统库与Android不同,因此必须配备自己的NDK工具链。本文从工具链全景出发,解析llvm编译器、sysroot、libc++等关键组件,并通过手写交叉编译命令和CMake工具链文件,演示如何为aarch64、x86_64等不同架构产出可执行文件。理解这些原理,有助于解决开发中常见的架构不匹配问题,例如模拟器上编译的OpenHarmony x86

weixin_33841503的博客 449

AD20/Altium designer——如何进行DRC检查、冲突的错误如何改正

对于一个画完的PCB,我们常常需要进行DRC检查,确保板子的电器连接及制作工艺在设定规则的范围内,本篇将介绍如何对PCB进行后期DRC检查处理,确保电路板出现不必要错误。 1.DRC检查入口 2.DRC设置 3.错误分析 对于错误的内容,依据个人实际情况不同,其出现的原因都是因为与设计规则中的设定标准冲突,这里按遇到的错误进行修改讲解,其他错误同理。 4.常见错误分析及解决方法 (1) 解决方法:将未连接网络连接(...

嵌入式创客工坊的博客 5万+

Unity Spine 3.8 (URP) 踩坑(Shader报错修改)

提供了新思路,打算尝试一下URP。但美术使用的spine版本是3.8,项目用的Unity2021.3.11f1c2,直接导入spine URP包,shader报错:half4 不能转成 SurfaceData2D;Spine-Sprite-StandardPass-URP-2D.hlsl 也报这个错,也是同样的改法即可。今天搜索spine优化,看到一篇文章。

hrlr1230的博客 4570

atlas200DK离线推理运行环境搭建

在atlas200DK上搭建python离线推理环境,最全流程

qq_29975343的博客 1102

神经元细胞结构刨析(持续更新)

神经细胞的学习笔记

weixin_46596227的博客 2222

昇腾CANN应用的运行环境部署

晟腾CANN应用的运行环境部署 整体步骤是:Driver——nnrt——Toolkit——MindStudio 首先我们用Ubuntu 18.04,对CANN的环境进行部署,可以去华为云租,自己有的话也可以使用自己的。 1、准备操作 这里我使用了MobaXterm9进行远程连接。 连接上以后添加用户HuHiAiUser用户并设置密码。 查看用户:cat /etc/passwd 应该显示这样得。如果是sh结尾,应该改成bash。。。vi /etc/passwd 也可以修改密码:passwd HuHiAiU

sjjsaaaa的博客 7686

Win11系统下Notepad++右键菜单失效?3种修复方法实测有效(附注册表备份指南)

本文针对Windows 11系统中Notepad++右键菜单失效的常见问题,提供了三种经过实测有效的修复方法。核心解决方案包括使用官方NppShell.dll重新注册、手动修复注册表项以及系统级问题排查,并详细说明了操作前的注册表备份指南,确保修复过程安全可靠。

m2n3b4v5c6的博客 328

SLAM轨迹评估神器evo实战:从GPS到TUM格式的完整转换指南(附Python代码)

本文详细介绍了如何使用evo工具将GPS数据转换为TUM格式,以便进行SLAM轨迹评估。通过Python代码实现GPS到笛卡尔坐标的精确转换,并提供了完整的处理流程和实战案例,帮助开发者轻松完成从原始GPS数据到精确轨迹评估的全过程。特别适用于ORB-SLAM等视觉SLAM算法的性能验证。

weixin_29074295的博客 297

美畅物联丨构建卓越智慧物联中台的三大核心要素

在当今数字化高速发展的时代,智慧物联中台的构建至关重要。一套完备的智慧物联中台并非单一产品的简单呈现,而是由多个模块与产品巧妙组合、层层堆叠而成。每个模块与产品都致力于解决特定的问题,它们既可以独立发挥作用,又能在组合之后成为一套强大的工具。今天美畅物联老张就和大家谈一谈构建卓越智慧物联中台的三大核心要素。

changlian24hlink的博客 1246

麒麟操作系统安装达梦数据库ARM版

Linux安装达梦数据库ARM版

运维@小兵的博客 8773

【入门到实战】OpenHarmony南向设备开发:标准系统方案之瑞芯微RK3568移植案例

​本文章是基于瑞芯微RK3568芯片的DAYU200开发板,进行标准系统相关功能的移植,主要包括产品配置添加,内核启动、升级,音频ADM化......

Androidbye的博客 1270

C# WinForms 多语种切换实现:打造国际化应用程序

合理实现多语种切换功能可以显著提升应用程序的国际化水平。模块化设计:将本地化逻辑模块化,便于管理和维护。异常处理:始终捕获和处理可能的异常,确保程序的健壮性。资源管理:合理管理资源文件,避免重复和遗漏。测试:在不同语言环境下进行全面测试,确保所有字符串都能正确显示。文档和注释:为关键代码添加详细的文档和注释,便于后续维护。

墨夶的博客 1693

VC中sqlite的使用

在VC中对sqlite的使用,实现数据库大批数据的快速插入,读取数据库中的数据在ListCtrl中显示

什么是南向接口和北向接口?

北向接口:提供给其他厂家或运营商进行接入和管理的接口,即向上提供的接口。 如网管提供三种北向接口,分别为CORBA(Common Object Request Broker Architecture)、SNMP、Syslog北向接口。它们负责向上级网管系统提供基于CORBA、SNMP和Syslog协议的北向接口,支持上级网管系统通过对应的协议接入网管。 南向接口:管理其他厂家网管或设备的接口,即向下提供的接口。 SDN控制器对网络的控制主要是通过南向接口协议实现,包括链路发现、拓扑管理、策略制定、表项下发等

James_bobo的博客 1万+

Outlook Express 6 (OE6) for Win7/Win8/Win10

英文版 Outlook Express6.0, 兼容Win7/Win10/WinXP,解压就可用。

上一篇: 【入门到实战】OpenHarmony南向子系统开发:AI框架开发指南
下一篇: 【入门到实战】OpenHarmony南向子系统开发:Sensor服务使用指南
懂你的大海
博客等级 码龄6年 9049粉丝 1381原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值