Hailo-8算力卡初步测试分享

原创 已于 2023-09-28 11:50:46 修改 · 1w 阅读 · 37 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#人工智能 #边缘计算

于 2023-09-13 17:23:42 首次发布
本文介绍了Hailo-8加速卡的安装过程，包括在树莓派CM4上的配置，以及使用软件包进行驱动安装和性能测试。测试结果显示该卡在边缘设备上具有较高的计算速度，但存在发热问题，建议配合散热。

Hailo-8加速卡驱动安装分享

Hailo-8加速卡简介

偶然间在网上看到一个神经网络的计算卡，其算力达到26TOPS，当然还要具体测试才知道应用情况。

hailo-8加速卡是一款支持M.2 M键的卡，可以支持多种长度，由于想测试的是边缘端的加速，因此以ARM开发板为主，如树莓派（CM4）、香橙派等RK3588系列等带有M.2 M接口的开发板。

实际测试过程使用的产品：
1、hailo-8加速卡是一款支持M.2 M（灵眸科技）
在这里插入图片描述
2、树莓派CM4
在这里插入图片描述

3、微雪底板
在这里插入图片描述

注：使用过程中计算卡发热严重，建议找个小风扇，由于底板背面计算卡的尺寸较大，会超出树莓派的通用外壳的尺寸

树莓派CM4配置简单，均需要Ubuntu系统，测试的系统为Ubuntu22.04。本来也支持RK系列的，可以选用带M.2 M插口的，但需要从源码编译驱动，不会操作，尝试了下就放弃了
安装后的完整版
正面

最低0.47元/天 解锁文章
RK3588开发笔记-Hailo AI模块调试
flypig has a dream！
06-27 566
本文详细介绍了在RK3588开发板上调试HailoAI模块的全过程。首先概述了RK3588处理器的强大性能（4核A76+4核A55，6TOPS算力）和Hailo-8 AI加速模块的特点，重点阐述了通过PCIe接口连接两者的硬件方案。调试步骤包括：确认内核PCIe配置、编译Hailo驱动、下载固件文件并部署到指定目录，最后通过运行resnet模型验证模块性能（实测FPS达2456）。文中提供了完整的软件包下载地址和GitHub源码链接，为开发者实现类似AI加速方案提供了实用参考。
树莓派 5 AI 套件（Hailo）示例
机器人控制与仿真应用
06-08 3827
该用户自定义类作为输入传递给回调函数，该函数在管道输出上运行。它用于主程序与回调函数之间的通信。它对 hailo_rpi_common::app_callback_class 进行了扩展，并可根据应用程序的具体情况定制附加变量和方法。
RK3588+AI算力卡替代英伟达jetson方案，大算力，支持FPGA自定义扩展
szxinmai的博客
10-09 1221
摘要： RK3588搭配AI算力卡方案在边缘计算领域展现出显著优势，其8nm工艺和6TOPS NPU提供高效能效比（1.2TOPS/W），支持轻量级AI任务，且成本仅为英伟达Jetson方案的1/150。适用于工业质检、安防监控等中低算力场景。然而，Jetson Thor在复杂AI任务和大模型部署上仍具优势，提供更高算力但功耗和成本较高。企业需根据实际需求选择，国产RK3588方案在性价比和生态适配性上更适合中低端应用。
Hailo-8加速OCR文字识别翻译
最新发布
weixin_34535286的博客
11-03 925
Hailo-8凭借数据流架构与高效能效比，支持OCR与多语言翻译模型在边缘端低延迟运行，结合模型优化、工具链配置与系统调优，实现‘看得清、识得准、译得快’的端侧智能文字识别解决方案。
树莓派与 Hailo 合作推出 AI套件
xixixixixixixi21的博客
06-07 934
无论是对象检测、语义和实例分割，还是姿势估计和面部标志识别，最尖端的神经网络均可完全在Hailo-8L协处理器上高效运行，从而解放Raspberry Pi 5的CPU去执行其他任务。这意味着，除了用于摄像机的场景外，用户还可以利用这些API在预先录制的视频文件上运行推理，从而满足更广泛的非摄像机用例需求。在软件层面，最新版的Raspberry Pi OS已经实现了对Hailo模块的自动检测功能，这意味着操作系统以及利用该模块的应用程序可以无缝地与之集成，实现即插即用的便利体验。
香橙派Orangepi 5pro 配置Hailo-8/Hailo-8L
stoat04的博客
10-28 1094
HailoRT – Python package (whl) for Python 3.10, aarch64（可选）后面采用orangepi 5pro 编写截图及显示的代码。然后安装hailo安装包，版本采用4.19.0。设备采用Orangepi 5pro。烧录系统后一次运行下面的命令。安装完系统即可以检测到设备。
【Hailo-8算力卡推断测试】
stoat04的博客
01-21 3630
Hailo-8算力卡的算力为26TOPS，可以方便地接入带有PCIE扩展的设备中，本次针对Hailo-8算力卡的实际应用过程做一个测试。
Hailo-8系列——Hailo Dataflow Compiler使用经验分享
stoat04的博客
04-11 4664
Hailo Dataflow Compiler用于将深度学习模型编译为能够在Hailo-8上运行的HEF文件。为了便于安装可以采用在featurize中租用的方式安装文件。然后，在安装hailo_dataflow_compiler。2、量化模型，通过加入代表数据集，转换为量化的HAR文件。1、编写一个深度学习模型，转换为HAR文件。后续在设备端运行的情况分析待续。安装成功后，根据手册编译一个模型。首先，更新，安装必要的环境。3、编译转换为HEF文件。转换为量化的HAR文件。也可以参照之前的文章。
前沿情报局 | AI500G集成Hailo-8™智能算力模块，超高算力助力边缘设备实现高性能人工智能！
HZHYTECH的博客
08-07 2997
Hailo-8™ M.2 模块作为一款专门用于AI应用的高效能加速器，其高达26 TOPS的算力、3 TOPS/W 的高功率效率以及PCIe Gen-3.0 4通道接口的高带宽特性，使其在边缘计算、机器学习和推理决策等领域具有广泛的应用前景。而Hailo-8™ M.2 模块专为AI应用设计，能够以更低的能耗提供更高的算力，显著提高了AI应用的整体性能。这意味着在相同功耗条件下，Hailo-8™ M.2 模块能够处理更多的数据和执行更多的运算，这对于需要实时处理大量数据的AI应用至关重要。
从零开始的Hailo-8配置教程
keyanjun_AI的博客
06-01 1416
1、简介2、环境搭建3、测试4、其他问题记录树莓派5是树莓派基金会推出的最新一代单板计算机（SBC），延续了系列“低成本、高性能”的设计理念。它基于ARM架构，适用于编程教育、物联网开发、智能家居控制、媒体中心搭建及工业自动化等场景，尤其适合需要一定计算能力且预算有限的项目。Hailo-8是由以色列Hailo公司开发的AI加速模块，专为边缘计算场景设计。它通过PCIe/M.2接口与主控板（如树莓派5、NVIDIA Jetson）连接，提供高性能、低功耗的深度学习推理能力。
在树莓派5+hailo-8上运行自建数据集的yolov8模型实现超高帧率（26tops超高端侧算力）-包含模型转换教程
qq_74903154的博客
02-22 7269
目前hailo-8有两种模式，第一是左边的m2样式，一种是右边只能用于树莓派5的官方出品的样式个人觉得m2样式的最好，因为可以用于像rk3588这种自带m2接口的主板，也可以用给电脑使用，但是m2格式的26tops的版本价格很贵，在1300左右才能买到，而树莓派专用的只需要900左右，13tops的两者价格都差不多600左右，根据自身情况选择合适的版本即可。下面是详细数据。
Hailo-8/8L系列汇总
stoat04的博客
11-02 1262
因为Hailo-8系列的帖子更新的有些混乱，但关注的人又比较多，因此计划重新编写部分内容。1）PC/云：Hailo Dataflow Compiler。2）边缘端：树莓派CM4/5、香橙派5Pro/Plus。如果有交流问题的，可能会有一些问题汇总，否则没有。2.4 香橙派Orangepi 5plus。环境配置（已完成重新调整中。动态推理（看起来这个是重点要做的）2.3 香橙派5Pro。2.1 树莓派CM4。
香橙派Orangepi 5plus 配置Hailo-8/Hailo-8L
嵌入式小师兄的博客
10-30 1729
香橙派orangepi5+hail8适配
分享个人树莓派5B安装AI Kit Hailo-8(L)的环境的经历
wallwayj的博客
09-22 4567
sudo apt install hailo-all
rk3568芯片ubuntu系统上Hailo算力卡驱动移植
LittleWhiteSand的博客
02-06 1255
本文详细讲述了在rk3568上使用pcie接口对Hailo算力卡Hailo-8L的驱动编译方法，并对Hailo算力卡各个组件进行说明，提供部分移植代码和效果图供其他人查看使用。
基于Hailo Hailo-8 的人工智能解决方案
Jessie_tianye的博客
08-25 2085
智能视频分析 (IVA) 已渗透到垂直行业的许多应用中。虽然渗透率增长很高，但不易开发仍是研发人员实现 IVA 的挑战。 Hailo-8™ AI 加速器模块可用于增强现有的支持 AI 的 IVA 应用程序，以及智能视频分析解决方案的开发和原型设计。
树莓派 5 AI 套件（Hailo-8L）使用教程
机器人控制与仿真应用
06-08 5481
有关人工智能套件的更多信息，包括机械规格和运行环境限制，请参阅产品简介。
张高兴的 Raspberry Pi AI 开发指南：（一）Hailo-8 配置
张高兴的博客
12-01 4020
目录2024 年 6 月，Raspberry Pi AI Kit 发布，将 M.2 HAT+ 与 Hailo-8 AI 加速模块捆绑在一起，使 Raspberry Pi 具有了运行 AI 程序的能力。Hailo-8 是由以色列公司 Hailo 开发的一款高性能边缘 AI 处理器(NPU)，它专为低功耗、高效率的深度学习推理任务设计，可以提供高达 26 TOPS 的计算能力，适用于各种边缘计算场景。本文主要介绍 AI Kit(AI HAT+)在 Raspberry Pi 5 上的配置和使用。
Raspberry Pi AI Kit——Hailo-8L安装记录
stoat04的博客
06-19 1324
Hailo-8的测试见往期文章，最近树莓派发布了官方套件——Raspberry Pi AI Kit，其采用Hailo-8L，算力为13TOPS，是Hailo-8算力的一半，官网地址为。最近在进行Raspberry Pi AI Kit使用测试。与Hailo-8外观基本一致。
hailo-8
08-14
- **算力**：Hailo-8 提供高达26 TOPS（万亿次操作每秒）的算力，适用于复杂的深度学习模型推理任务。 - **功耗**：在典型工作负载下，其功耗仅为2.5W，这使得它非常适合用于对功耗敏感的边缘设备[^1]。 - **内存**...
评论 6
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值