问题
用户在使用thub产品时发现展示的执行结果中,Long类型数据发生精度丢失问题。
实际值: 588208228525821697
前端显示 588208228525821700
排查发现后端返回数据数据是正确的,在前端显示出错了。
原因
参考文章 https://blog.youkuaiyun.com/u010028869/article/details/86563382
js使用双精度存储方式,因此对超长的整数值会丢失精度。
解决办法
- 后端对执行结果进行序列化,以格式化的字符串方式传输,字符串不存在精度问题 (需要改造数据格式,成本高)。
- 后端增加converter,在序列化的时候将long类型数据转成String (但是会对http接口产生全局影响)。(ToStringSerializer也可自定义实现)
FastJsonConfig fastJsonConfig = new FastJsonConfig(); SerializeConfig serializeConfig = SerializeConfig.globalInstance; serializeConfig.put(BigInteger.class, ToStringSerializer.instance); serializeConfig.put(Long.class, ToStringSerializer.instance); serializeConfig.put(Long.TYPE, ToStringSerializer.instance); fastJsonConfig.setSerializeConfig(serializeConfig); fastConverter.setFastJson

用户在使用产品时遇到Long数据精度丢失问题,原因是JavaScript双精度浮点数存储方式导致。解决方案包括后端数据序列化为字符串传输、自定义序列化转换Long为String以及前端特殊处理。后端转换方法可能产生全局影响,自定义序列化可能影响数据库存储的数据类型。
最低0.47元/天 解锁文章

1117

被折叠的 条评论
为什么被折叠?



