- 博客(1)
- 资源 (1)
- 收藏
- 关注
原创 举个栗子讲清楚MATLAB的定点数据类型fixdt()
a表示该数值是有符号还是无符号的数据;那么对于有符号的数据,这里一共是4个bit,精度是2^-2=0.25,一共四位,小数占了两位,剩下的两位其中一个要表示有无符号,那就是剩下一位1,如果是负数的话,向下取数,最大能表示-2。其中,对于无符号数据,这里一共是四位,精度是2^-2=0.25,一共四位小数占了两位,剩下的两位11(二进制)那么最大就是3,向下四位最大能表示的数据就是3.75。a=1表示有符号,取值范围[-(2(bits-1)*2^n+B), (2(bits-1)-1)*2^n+B]
2023-12-04 17:14:04
2185
1
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人
RSS订阅