如何设置显卡驱动以实现深度学习推理的最佳性能

快速解决深度学习推理过程cuda或tensorRT推理速度变慢的办法，记录一下方便自己以后查看。

一、显卡性能设置：
    低延时模式——超高、最大帧速度——1000每秒帧数、电源管理模式——最高性能优先

二、管理员权限（命令提示符以管理员身份运行）终端输入nvidia-smi -q -d SUPPORTED_ClOCKS 

三、终端输入nvidia-smi -lgc 10501(根据实际大小来输入)

四、终端输入nvidia-smi -lgc 5000,10501   显存锁定在5000-10501直接波动，低版本最好直接设置最大值

五、终端输入nvidia-smi -rgc 解除锁定
 

六、程序初始化自动设置

int AmplifyGpu()
{
	STARTUPINFOW si = { sizeof(si) };  // Use STARTUPINFOW for wide character support
	PROCESS_INFORMATION pi;

	//