以前一直用D11,用了好多年,没有什么大问题,但小问题不少,最近把Delphi升级到了D12,最担心的几个控件包也解决了兼容问题(我只用5个,DevExpress,NextSuite,ComPort,FFVCL和多年累积下来自己写的一些工具控件),庆幸之余试了一下前几年自己封装的一套Tensorflow Lite 库,没想到出问题了。
我是封装了 Tensorflow Lite 的API接口库,包括CPU、GPU和NPU上推理,其中,CPU和NPU推理没有问题,但GPU调不起来,始终返回一个空指针对象
FDelegateOptions.is_precision_loss_allowed := 1;
FDelegateOptions.inference_preference :=Int32(TFLITE_GPU_INFERENCE_PREFERENCE_SUSTAINED_SPEED);
FDelegateOptions.inference_priority1 := Int32(TFLITE_GPU_INFERENCE_PRIORITY_MIN_LATENCY);
FDelegateOptions.inference_priority2 := Int32(TFLITE_GPU_INFERENCE_PRIORITY_AUTO);
FDelegateOptions.inference_priority3 := Int32(TFLITE_GPU_INFERENCE_PRIORITY_AUTO);
FDelegateOptions.experimental_flags:=Int32(TFLITE_GPU_EXPERIMENTAL_FLAGS_CL_ONLY);
FDelegateOptions.max_delegated_partitions:=1;
FDelegateOptions.model_token:=nil;
FDelegateOptions.serialization_dir:=nil;
FDelegateOptions.first_delegate_node_index:=0;
FDelegateOptions.last_delegate_

最低0.47元/天 解锁文章
3511





