勇敢的蜗牛

.PHONY: all cleanCUDA_LIB_DIR := /usr/local/cuda/lib64LIBS += -lcudartLIBS += -lcudaCU_SRCS := $(wildcard *.cu)CU_OBJS := $(CU_SRCS:%.cu=%.o)C_SRCS := $(wildcard *.cpp)C_OBJS := $(C_SRCS:%.c...

分析TensorRT中的int8量化代码中的推理结果统计分析代码，输出推理结果中top1和 top5的统计情况int calculateScore(float* batchProb, float* labels, int batchSize, int outputSize, int threshold){ int success = 0; for (int i = 0; i &...

注意：函数运算完之后，会将运算结果保存在第一个参数指针指定的空间位置，返回的是old值。int atomicAdd(int* address, int val);unsigned int atomicAdd(unsigned int* address,unsigned int val);unsigned long long int atomicAdd(unsigned long long ...

继承IPluginExt 并重写一系列虚函数，包括：getNbOutputs 该层返回输出的张量个数，getOutputDimensions返回输出的张量维度(返回多个张量咋写？ 估计会根据index返回不同的Dims结构)，configureWithFormat 根据数据个数做出一些调整，反正会传入一个DataType参数，看程序是否需要做一些调整。initialize 做一些初始...