Matlab自学笔记五十七:符号运算、可变精度运算、双精度浮点型运算,三种运算精度的概念、比较、选择和应用

1.可变精度算术的概念

默认的,Matlab双精度浮点数使用16位数字精度,而符号数学工具箱的vpa函数,提供了无限大的可变精度,它默认使用32位数字精度,32位指的是有效数字的位数;

2.具体用法

程序示例:

pi  %默认双精度浮点型,16位精度,默认short显示格式小数点后4位

ans =

    3.1416

vpa(pi)  %可变精度数值,32位精度

ans =

3.1415926535897932384626433832795

vpa(pi,100)  %设置100位精度

ans =

3.141592653589793238462643383279502884197169399375105820974944592307816406286208998628034825342117068

%% 下面让整个运行环境使用可变精度

digits  %获取当前运行环境的精度

i=digits(100)  %设置运行环境精度100,i返回设置前的精度值

vpa(pi)  %显示pi的可变参数值,已变为100位

运行结果:

Digits = 32

i =

    32

ans =

3.141592653589793238462643383279502884197169399375105820974944592307816406286208998628034825342117068

3.三种算术条件的运算精度比较

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

freexyn

码字不易,谢谢鼓励!

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值