1.可变精度算术的概念
默认的,Matlab双精度浮点数使用16位数字精度,而符号数学工具箱的vpa函数,提供了无限大的可变精度,它默认使用32位数字精度,32位指的是有效数字的位数;
2.具体用法
程序示例:
pi %默认双精度浮点型,16位精度,默认short显示格式小数点后4位
ans =
3.1416
vpa(pi) %可变精度数值,32位精度
ans =
3.1415926535897932384626433832795
vpa(pi,100) %设置100位精度
ans =
3.141592653589793238462643383279502884197169399375105820974944592307816406286208998628034825342117068
%% 下面让整个运行环境使用可变精度
digits %获取当前运行环境的精度
i=digits(100) %设置运行环境精度100,i返回设置前的精度值
vpa(pi) %显示pi的可变参数值,已变为100位
运行结果:
Digits = 32
i =
32
ans =
3.141592653589793238462643383279502884197169399375105820974944592307816406286208998628034825342117068
3.三种算术条件的运算精度比较

最低0.47元/天 解锁文章

被折叠的 条评论
为什么被折叠?



