【ai】tx2 nx： jetson Triton Inference Server 部署YOLOv4

已于 2024-06-24 18:23:34 修改
阅读量166 收藏
点赞数
分类专栏： AI入门与实战 文章标签： 人工智能 YOLO
于 2024-06-24 18:14:48 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/commshare/article/details/139929883
版权
了解本专栏 订阅专栏 解锁全文 超级会员免费看
【ai】tx2 nx： jetson Triton Inference Server 运行YOLOv4
突围
06-24 161
【ai】tx2 nx： jetson Triton Inference Server 部署YOLOv4
【ai】tx2 nx：ubuntu18.04 yolov4-triton-tensorrt 成功部署server 运行
突围
06-25 285
yolov4-triton-tensorrt
【ai】tx2-nx：安装深度学习环境及4.6对应pytorch
突围
06-20 260
pip3 install numpy torch-1.10.0-cp36-cp36m-linux_aarch64.whl
【ai】tx2 nx： trition client安装nvidia-pyindex 一直失败
突围
06-25 178
https://newreleases.io/project/github/triton-inference-server/server/release/v2.5.0
【ai】 梳理一下yolov4及 trition部署的心路历程
突围
06-26 163
trition
【ai】tx2-nx 查看 jetpack 版本信息及对应的tritonserver
突围
06-20 675
nvidia@tx2-nx:~$ jtop [WARN] Board missing UNKNOWN (press CTRL + Click) nvidia@tx2-nx:~$
deepstream部署jetson
WILLIX的博客
09-09 1542
进入bodypose_yolo_win1,修改了source4_1080p_dec_parallel_infer.yml为source4_1080p_dec_parallel_infer1.yml，主要改变其中的模型推理配置文件。当多输入源时，yolov7的onnx模型属于静态模型，原来的engine模型无用，deepstream会自动将onnx模型再次转换成多输入源的engine文件，但会发现无法静态onnx模型已经限定死了模型内部的batch维度为1。当多输入源时，yolov7示例模型属于静态模型。
AI部署合集1
whaosoft143ai的博客
10-24 683
肯定很多人想知道triton干啥的，学习这个有啥用？这里简单解释一下：triton可以充当服务框架去部署你的深度学习模型，其他用户可以通过http或者grpc去请求，相当于你用flask搭了个服务供别人请求，当然相比flask的性能高很多了triton也可以摘出C-API充当多线程推理服务框架，去除http和grpc部分，适合本地部署多模型，比如你有很多模型要部署，然后分时段调用，或者有pipeline，有了triton就省去你处理显存、内存和线程的麻烦。
Jetson-DeepStream
weixin_42743099的博客
05-26 1741
DeepStream 这篇文章主要是结合官方文档，自己的实际验证来讲DeepStream到底是个啥，我开始写的时候我也不知道这是个啥，一步步探索，以一个菜鸟的看法来写这个，如有错误还望大家指点一下。然后所有的操作都是在TX2或Jetson AGX Xavier上完成的。 一、刷机、安装DeepStream 在英伟达的板子上，TX2、Xavier这些上面，建议是使用jetson sdk直接刷机，刷机的时候选择DeepStream一并刷入可以减少很多的工作量。参考链接：https://blog.youkuaiyun.com
【ai】tx2 nx ：安装torch、torchvision for yolov5
突围
06-25 181
yolov5
为JETSON TX2开发板部署YoloV5
贱贱的剑
03-04 5542
参考资料一：nvidia为JETSON Tx2编译的pytorch 参考资料二：Jetson软件包下载 参考资料三：Tx2安装工具的使用 参考资料四： Jetson烧录工具 参考资料五： B站下载的行人视频 一、升级TX2系统版本到最新版（JetPack4.6） 我拿到的板子的版本太低了，在工作的过程中会有很多问题，因此要先升级到最新版 下载参考资料四中的烧录工具，在Ubuntu18.04中安装，只能，必须，一定是Ubuntu18.04 安装完成后使用非root用户启动SDK Manger，登录Nvi.
垂直智能体：企业AI落地的正确打开方式
chainso23的博客
05-18 1536
在一次重大投资决策中，这个智能体通过详细的财务模型和风险分析，帮助企业识别了原计划中被忽视的潜在风险，优化了投资策略，最终实现了比预期高的投资回报。上述企业管理与运营领域的成功案例清晰地表明，真正有价值的智能体不是简单地调用模型或拼凑功能，而是通过深度融合领域知识、专业流程和企业特定数据，形成清晰的内部逻辑，最终成为企业决策和运营的可靠助手。高效的垂直智能体需要具备强大的任务记忆能力，能够在多轮交互中保持上下文理解，记住用户的需求和偏好，避免重复询问或提供不一致的回答。
Baklib赋能企业知识资产AI化升级
weixin_51374429的博客
05-18 1818
Baklib作为AI驱动的一站式知识中台，深度融合大数据与智能技术，助力企业实现知识资产数字化升级。通过构建安全可控的多语言知识库体系，帮助百度、京东等500强企业激活沉睡数据，提升60%AI数据准备效率，实现内容智能管理、多场景输出及业务创新，打造可视化AI Ready知识引擎，加速数字化转型进程。
ROS2使用yoloV12，V11，V10，V9，V8，V5等
qq_35598561的博客
05-19 701
ROS2使用yoloV12，V11，V10，V9，V8，V5等
《Python星球日记》 第95天：分布式训练与推理
Code_流苏：在代码中寻诗意，在实践中觅真知
05-19 1408
《Python星球日记》 第95天：分布式训练与推理，今天，我们将探索分布式训练与推理技术，这是解决大规模AI模型训练和部署挑战的关键方法
马尔可夫链（AI、ML）：逻辑与数学的交汇
项目git同名小胡说技书
05-20 1001
# 马尔可夫链摘要 马尔可夫链是一种随机过程，其核心特性为"无记忆性"：系统的未来状态仅依赖于当前状态，而与历史路径无关。通过状态空间和转移概率矩阵，马尔可夫链能够描述系统如何从一个状态变化到另一个状态。这一理论广泛应用于人工智能、自然语言处理和蒙特卡洛方法中。从逻辑学角度看，马尔可夫链体现了确定性规则与不确定性结果的结合，为复杂系统分析提供了强大工具，展示了概率论与逻辑学的深度融合。
飞致云旗下开源项目GitHub Star总数突破150,000个
FIT2CLOUD飞致云的博客
05-20 582
在开源的道路上，我们与用户、与客户共成长。
常见的几种多智能体强化学习算法
最新发布
再来一下！
05-21 257
多智能体强化学习（Multi-Agent Reinforcement Learning, MARL，旨在解决多个智能体在共享环境中通过与环境和其他智能体交互来学习最优策略的问题。
AI智能分析网关V4烟火检测算法：全功能覆盖，守护工厂/商场/学校等场景消防安全
NVR安防视频技术
05-19 999
随着社会经济发展，频发的火灾事故严重威胁公共与财产安全。传统火灾检测手段存在响应慢、误报高、适应性差等问题，难以满足复杂场景需求。
如何在jetson tx2上部署yolov5
05-01
要在Jetson TX2上部署YoloV5，可以按照以下步骤进行： 1. 安装JetPack：JetPack是NVIDIA Jetson平台的软件开发工具包，它包括Jetson操作系统、CUDA、cuDNN等必要软件。在Jetson TX2上部署YoloV5前，需要首先安装JetPack。 2. 安装依赖库：在Jetson TX2上运行YoloV5需要安装一些依赖库，例如OpenCV、PyTorch等。可以使用以下命令安装： ``` sudo apt-get update sudo apt-get install -y python3-pip libjpeg-dev libtiff5-dev libpng-dev libavcodec-dev libavformat-dev libswscale-dev libv4l-dev libxvidcore-dev libx264-dev libgtk-3-dev libatlas-base-dev gfortran python3-dev python3-numpy python3-opencv python3-torch ``` 3. 下载YoloV5代码：可以使用以下命令将YoloV5代码克隆到Jetson TX2上： ``` git clone https://github.com/ultralytics/yolov5.git ``` 4. 下载模型权重文件：YoloV5模型权重文件可以在YoloV5官方网站上下载。将下载的权重文件存放在yolov5目录下的weights文件夹中。 5. 运行YoloV5：使用以下命令运行YoloV5： ``` cd yolov5 python3 detect.py --weights weights/yolov5s.pt --img 640 --conf 0.25 --source 0 ``` 其中，--weights参数指定了模型权重文件路径，--img参数指定了输入图像大小，--conf参数指定了置信度阈值，--source参数指定了输入源，可以是摄像头、视频文件或图像文件。 以上是在Jetson TX2上部署YoloV5的基本步骤，具体操作可能会因环境配置、软件版本等原因而有所不同。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

等风来不如迎风去

你的鼓励是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值