定点基础知识
S(m,n): 【-2 ^(m-1):1:2 ^(m-1)-1】x (1/2 ^n) ,即【-2 ^(m-1)/(2 ^n):1/2 ^n:(2 ^(m-1)-1) / (2 ^n)】需要注意,若两者都取所能取到的最小数,即 -2^2 x (-2 ^4) =2 ^ 6, S(7,3)无法表示2 ^6。U(m,n): 【0:1:2 ^m-1】x (1/2 ^n) ,即【0:1 / 2 ^n:(2 ^m-1)/(2 ^n)】U(m,n): 无符号数,m位位宽,小数位宽为n,整数位宽为m-n。
原创
2023-07-13 22:19:45 ·
228 阅读 ·
0 评论