用D3D11有一小段时间了,感觉在以前的教程章节也是散乱的写关于HLSL的总结,不过以前的我感觉有点不太对,这里我重新整理一下子
第一,HLSL错误类型。
HLSL错误两类两大类:
第一,加载shader文件路径出错或者文件名出错,这应该是最低级的错误.
第二,是shader的语法错误,比如无效字符,不记得返回值,值未初始化就使用等等。
一般来说,这时候调试时最好对想调试的那个shader文件进行设置为HLSL调试器,
如图 我的shader文件为 ColorShader.fx文件,对该shader文件右键,然后点击属性,属性-》配置属性-》常规-》项类型,设为HLSL编译器,
这个问题出现的原因是将.fx文件(着色器文件)导入自己新建的工程以后,VS2013会默认使用HLSL编译器对其进行编译,而.fx文件中并未定义main函数,所以会导致编译出错。
这样的话 该shader文件有语法错误的话可以从VS2015的面板上找到错误,不然的话老是得到那个shader输出错误文件里,真心麻烦。
当然调试完毕后记得,对每个shader文件右键,然后点击属性,属性-》配置属性-》常规-》项类型,设为不参与生成,不然编译Shader时会出错。
这里建议shader编写文件直接用.HLSL,就省去手动设置的功夫了,或者在FX里编写shader代码,用HLSL文件包含FX文件,然后D3DCompile编译.fx文件,参见微软的Directx11基础入门教程代码。
如图:
第二,HLSL调试方法。
hlsl可以进行断点的调试
(VS2015环境下)用Visual Studio Graphics Debugger调试Shader