xzpdxz的博客

CUDA全称（Compute Unified Device Architecture）统一计算架构，是NVIDIA推出的并行计算平台深度学习加速：对于神经网络，无论是离线训练还是在线推理，都有巨量的矩阵、归一化、softmax等运算，且其中有非常多的并行计算，非常适合用GPU来进行运算加速一般来说，应用程序混合有并行部分和顺序部分，因此系统设计时混合使用 GPU 和 CPU，以最大限度地提高整体性能。具有高度并行性的应用程序可以利用 GPU 的大规模并行特性来实现比 CPU 更高的性能。

aten: A Tensor Library的缩写。与Tensor相关的内容都放在这个目录下。如Tensor的定义、存储、Tensor间的操作（即算子/OP）等可以看到在aten/src/Aten目录下，算子实现都在native/目录中。其中有CPU的算子实现，以及CUDA的算子实现（cuda/）等torch: 即PyTorch的前端代码。我们用户在import torch时实际引入的是这个目录。其中包括前端的Python文件，也包括高性能的c++底层实现（csrc/）。

大模型百家齐放及历史演进

Triton提供了一个叫做instance-group的模型配置项，允许指定每一个模型允许的并发实例的数量,这些并发的模型数量称之为一个instance。默认情况下，Triton是一个GPU上放一个模型，一次只推理一份数据。但通过设置模型的instance_group参数，可以对模型的并发实例数据量进行扩充。2.–model-control-mode=poll该参数用于启动模型热更新，当模型文件发生变化，或者新增版本时，程序先启动新的实例版本出来，在将旧版本或者实例卸载掉。

本工程包含AI模型训练，预测的自动机器学习库先看效果 lol英雄目标检测 Ai框架请下载基础环境pip install -r requirements.txt准备数据集数据标注工具分类# 数据集结构如下# main_directory/# ...class_a/# ......a_image_1.jpg#

AutoGluonAutoGluon 自动执行机器学习任务，使您能够轻松地在应用程序中实现强大的预测性能。只需几行代码，您就可以在文本、图像和表格数据上训练和部署高精度机器学习和深度学习模型。支持的任务表格数据预测任务文本数据预测任务图像分类预测任务物体检测预测任务安装$ pip install -U "mxnet<2.0.0" -i https://pypi.tuna.tsinghua.edu.cn/simple # cpu版本$ pip install -U "mxnet

Deep Stream解决问题快速开发Ai技能快速部署Ai服务提供本地部署提供边端设备部署提供远端部署高吞吐量主要特点具有统一规范的sdk基于多传感器，音频，视频，图像整套的流分析工具具有基于graph composer拖拽式的低代码编程支持云原声k8s编排适用视觉Ai场景高吞吐量整体流分析过程应用架构[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-cM2e0ZSB-1642410682766)(https://queryca

目的本机电脑基础配置MX150显卡安装gpu目的是，希望用gpu来加速模型训练安装步骤暴力安装tensorflow_gpu[~]# conda install tensorflow_gpu这个过程相对时间比较久先查看本机显卡驱动信息[~]# nvidia-smi# 以下信息可知有一张显卡，cuda版本为11，驱动版本450Sun Jan 16 01:36:35 2022+-------------------------------------------------------

概述ImageAI本着简洁的原则，支持最先进的机器学习算法用于图像预测，自定义图像预测，物体检测，视频检测，视频对象跟踪和图像预测训练ImageAI目前支持使用在ImageNet-1000数据集上训练的4种不同机器学习算法进行图像预测和训练ImageAI还支持使用在COCO数据集上训练的RetinaNet进行对象检测，视频检测和对象跟踪除了由官方提供的图像模型外，自定义模型是被允许的安装pip install imageai详细文档ImageAI文档涉及内容依赖安装图像预测

图像分类准备数据集数据集预处理模型训练模型导出模型加载部署模型预测# 这里以tensorflow.keras.datasets中的手写数据集为例子import abcfrom abc import ABCimport numpy as npimport cv2import requestsfrom tensorflow.keras.models import load_modelfrom tensorflow.keras.datasets import mnistimpor

概述是一个在keras基础上的自动机器学习库模型训练模型门槛较低,每个人都可以使用机器学习当前支持的训练任务有图像分类图像识别文本分类文本识别结构数据分类结构数据识别未来将支持的训练任务图像检测图像分割时间序列预测安装[~]# pip install autokeras几行代码训练一个模型import autokeras as akclf = ak.ImageClassifier()clf.fit(x_train, y_train)results