floatnn这种的row major还是column major总是容易搞混,所以写一些测试来帮助记忆一下。
hlsl的floatnn的声明方式是float[row][column]这种。
存储在register里的方式可以通过几个测试看一下:
float3 dir;
float3x3 view;
mul(dir, view);
这个编译出来是4个整齐的dot,已经可以看出存储方式是column major了,也就是每一个column存在一个register里。
另外在做index取数测试:
float4x4 view;
float2 uv=view[3].x;
float2 uv=view[3].y;
意义分别是去2行的第1个和第2个数来赋值。
编译出来的shader asm是:
add oT0.xy, v3, c91.w
add oT0.xy, v3, c92.w
同样验证了一下。