问题
用户在使用thub产品时发现展示的执行结果中,Long类型数据发生精度丢失问题。
实际值: 588208228525821697
前端显示 588208228525821700
排查发现后端返回数据数据是正确的,在前端显示出错了。
原因
参考文章 https://blog.youkuaiyun.com/u010028869/article/details/86563382
js使用双精度存储方式,因此对超长的整数值会丢失精度。
解决办法
- 后端对执行结果进行序列化,以格式化的字符串方式传输,字符串不存在精度问题 (需要改造数据格式,成本高)。
- 后端增加converter,在序列化的时候将long类型数据转成String (但是会对http接口产生全局影响)。(ToStringSerializer也可自定义实现)
FastJsonConfig fastJsonConfig = new FastJsonConfig(); SerializeConfig serializeConfig = SerializeConfig.globalInstance; serializeConfig.put(BigInteger.class, ToStringSerializer.instance); serializeConfig.put(Long.class, ToStringSerializer.instance); serializeConfig.put(Long.TYPE, ToStringSerializer.instance); fastJsonConfig.setSerializeConfig(serializeConfig); fastConverter.setFastJson