整型数据的溢出 >> a=int8(234) a =
127
小结:饱和处理问题的方式处理,即将计算结果设定为溢出方向的上下线数值。
2.3.2 浮点数
双精度类型(double) 单精度(single)
单精度和双精度的取值范围: realmin realmax
单精度类型的浮点数的精度 eps
单双精度浮点数的数值范围和精度 >> format compact
>> realmin('single') ans =
1.1755e-38
>> realmax('single') ans =
3.4028e+38
>> realmin('double') ans =
2.2251e-308
>> realmax('double') ans =
1.7977e+308 >> eps ans =
2.2204e-16
单精度数据创建及混合运算
a=single([1 3 2 4 3 2 1]) a =
1 3 2 4 3 2 1 >> b=[2 32 4 3 5 2 1] b =
2 32 4 3 5 2 1 >> class(a) ans = single >> class(b) ans = double >> a+b ans =
3 35 6 7 8 4 2 >> class(ans) ans = single
小结:单精度数据创建方法和整型数据创建方法相同。对于单精度与双精度数据所做的混合型运算,处理据结果为单精度的数据结果。
特殊的双精度数(Inf NaN)
>> 0.54325/0 ans = Inf >> 0/0
ans = NaN
127
小结:饱和处理问题的方式处理,即将计算结果设定为溢出方向的上下线数值。
2.3.2 浮点数
双精度类型(double) 单精度(single)
单精度和双精度的取值范围: realmin realmax
单精度类型的浮点数的精度 eps
单双精度浮点数的数值范围和精度 >> format compact
>> realmin('single') ans =
1.1755e-38
>> realmax('single') ans =
3.4028e+38
>> realmin('double') ans =
2.2251e-308
>> realmax('double') ans =
1.7977e+308 >> eps ans =
2.2204e-16
单精度数据创建及混合运算
a=single([1 3 2 4 3 2 1]) a =
1 3 2 4 3 2 1 >> b=[2 32 4 3 5 2 1] b =
2 32 4 3 5 2 1 >> class(a) ans = single >> class(b) ans = double >> a+b ans =
3 35 6 7 8 4 2 >> class(ans) ans = single
小结:单精度数据创建方法和整型数据创建方法相同。对于单精度与双精度数据所做的混合型运算,处理据结果为单精度的数据结果。
特殊的双精度数(Inf NaN)
>> 0.54325/0 ans = Inf >> 0/0
ans = NaN