浮点数精度问题

float最多能表示小于8388607的小数点后7位,但绝对能保证的为6位,也即float的十进制的精度为为6~7位。

double数据类型绝对值最小可以取到2^-1024,精度则为2^52-1=4503599627370495,为16位。所以精度最高位16位,一定可以保证15位。

未规定long double的确切精度。(不少于double的精度,但不会大多少)

 

python decimal模块:(十进制浮点运算)

包:from decimal import *

 

浮点数据转换为Decimal类型

Decimal.from_float(float)

 

设定有效数字

getcontext().prec = num

 

四舍五入,保留几位小数

Decimal('123.13623').quantize(Decimal('0.00'))

result:123.14

 

Decimal 转string

str(Decimal('123.13623').quantize(Decimal('0.00')))

 

 

https://ac.nowcoder.com/acm/contest/874/D

from decimal import *

t = int(input())
for case in range(t):
    with localcontext() as ctx:
        ctx.prec = 50
        n = int(input())
        a = Decimal(sum(map(int,input().strip().split())))
        b = Decimal(sum(map(int,input().strip().split())))
        ans = a*b/n
        print(format(ans,".30f"))

 

评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值