不要丢失精度

最新推荐文章于 2025-02-27 10:13:44 发布
原创 最新推荐文章于 2025-02-27 10:13:44 发布 · 153 阅读 · 0 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#搞笑 #BigDecimal

项目是一个点餐系统，有一个结账时优惠券抵扣的代码:

double cost = resultObj.getDouble("cost");
// 计算优惠差额
double dif = Arith.sub(total, cost);

public static double sub(double v1, double v2) {
	BigDecimal b1 = new BigDecimal(Double.toString(v1));
	BigDecimal b2 = new BigDecimal(Double.toString(v2));
	return b1.subtract(b2).doubleValue();
}
如何处理Long类型精度丢失问题?
猿小白的博客
03-11 2560
当实体类中的字段为Long类型，且值超过前端js显示的长度范围时会导致前端回显错误。 方法1、使用JsonSerialize注解序列化的时候把Long自动转为String（单个属性） import com.fasterxml.jackson.databind.annotation.JsonSerialize; import com.fasterxml.jackson.databind.ser.std.ToStringSerializer; @JsonSerialize(using = ToStr.
经理突然问我为什么BigDecimal可以不丢失精度？我表示...
**My Coding Family**
06-02 937
🏆本文收录于《Java实战(精通版)》专栏，重点剖析Java各种超核心知识点，带你从入门到精通，全面提升Java编程实力🚀；欢迎大家关注/收藏/订阅！持续更新中，up！up！up！！
java float 丢失精度
weixin_42492000的博客
06-30 269
Java中float类型的精度丢失问题分析与解决 在Java中，float和double是用来表示浮点数的两种数据类型，它们分别占用4字节和8字节的存储空间。虽然double类型比float类型精度更高，但在某些情况下，float类型会出现精度丢失的问题。本文将讨论Java中float类型的精度丢失问题产生的原因，并提供解...
mysql数据精度丢失问题
resemble的博客
05-08 6193
不要盲目的说float和double精度可能发生丢失，而是说在存取时因为精度不一致会发生丢失，当然这里的丢失指的是扩展或者截断了，丢失了原有的精度。decimal是好，但不是说不会发生任何精度丢失。如果问题看得不深入，总会以偏概全。 我们知道，mysql存储小数可以使用float、double、decimal等。这些类型存储的小数精度都比较高。我们平时应用最多的就是两位小数点，所以，这些...
decimalformat精度丢失_DecimalFormat
weixin_33410492的博客
01-12 631
DecimalFormat是格式为十进制数的NumberFormat的具体子类。它具有各种功能，旨在使任何地区的数字解析和格式化，包括支持西方，阿拉伯语和印度数字。它还支持不同类型的数字，包括整数(123)，定点数(123.4)，科学记数法(1.23E4)，百分比(12％)和货币金额(123美元)。所有这些都可以进行本地化。要获取特定区域设置的NumberFormat (包括默认语言环境)，请致电...
mysql 精度丢失_mysql数据精度丢失问题深入探讨
weixin_40008566的博客
01-19 757
不要盲目的说float和double精度可能发生丢失，而是说在存取时因为精度不一致会发生丢失，当然这里的丢失指的是扩展或者截断了，丢失了原有的精度。decimal是好，但不是说不会发生任何精度丢失。如果问题看得不深入，总会以偏概全。文章来源：C++技术网 原创文章版权所有，未经授权，禁止转载。我们知道，mysql存储小数可以使用float、double、decimal等。这些类型存储的小数精度都比...
python 浮点数精度丢失_浮点型数据转整型的丢失精度问题（C++）
weixin_39788451的博客
12-09 1049
如下代码：http://ideone.com/xcgHgw#include using namespace std;int main() {// your code goes hereint i = ;i = 9.0 * 0.6 + 0.6;cout << i << endl;i = 9.0 * 0.6 + 0.6;cout << i << endl...
java浮点数精度丢失_java中浮点型数据计算精度丢失
weixin_42500374的博客
02-13 446
浮点型运算为什么会造成精度丢失？1、小数的二进制表示问题首先我们要搞清楚下面两个问题：(1) 十进制整数如何转化为二进制数算法很简单。举个例子，11表示成二进制数：11/2=5 余 1 5/2=2 余 1 2/2=1 余 0 1/2=0 余 10结束 11二进制表示为(从下往上):1011这里提一点：只要遇到除以后的结果为0了就结束了，大家想一想，所有的整数除以2是不是一定能够最终...
python csv文件使用excel打开数字丢失精度
leaves_story的博客
10-25 7607
最近用脚本生成了一个csv文件，用text打开csv文件数据是正常的。但是用wps打开时，文件中的数据不对，例如我有一个数据在csv中对应的一列时一个长整型，例如值为：10106491971116205，当用excel打开时，会被自动转换成科学记数法，值也会发送变化，变成10106491971116200，自动转换时精度丢失。 通常在Excel中输入数值时，如果超过11位（12位及以上），Exc...
解决浮点数精度丢失问题：BigDecimal
是琼琼琼琼琼啊的博客
02-27 1899
解决浮点数精度丢失问题：会有一些例外的情况发生，如十进制0.2转为二进制数时，则会发生无限循环情况，而实际的计算机存储的位数是有限的，只能截断存储，这就导致了小数精度丢失问题。compareTo() 方法可以比较两个 BigDecimal 的值，如果相等就返回 0，如果第 1 个数比第 2 个数大则返回 1，反之返回-1。在计算机中，十进制的整数是不断除以2直到商为0为止，然后把余数逆序组成二进制小数，如十进制中的10转为二进制的过程，如下图所示，最终二进制为。时，为了防止精度丢失，推荐使用它的。
Mybaties @Select float 丢失精度
banana1006034246的博客
06-19 1377
Spring boot 整合 mybaties时，会出现一个奇怪的现象，假如 数据库里面有float型数据，比如 5.245，使用 @Select注解查询出来显示的是 5.0, 精度哪去了？ @Select("SELECT heat, cost FROM dm_warehouse_cost WHERE date=#{date} AND id=#{id}") WarehouseCost...
javascript小数精度丢失的完美解决方法
10-22
在使用JavaScript进行小数运算时，由于JavaScript的内部运算规则是基于二进制实现的，而大多数小数在转换为二进制形式时无法精确表示，这就导致了小数运算时可能出现精度丢失的问题。例如，当执行0.3*1的运算时，...
Double类型丢失精度的两种解决方案
ChinaLiaoTian的博客
12-10 2492
继续使用Double类型 其实只要在计算时使用封装的工具类，继续使用Double类型精度也不会丢失；转换为BigDecimal时，构造函数采用String那一个。 package com.sugarppig.general.utils; import com.sugarppig.common.exception.GeneralException; import java.math.BigDecimal; import java.math.RoundingMode; import java.util.Arr
(Kriging-NSGA2)克里金模型结合多目标遗传算法求最优因变量及对应的最佳自变量组合研究（Matlab代码实现）
12-16
(Kriging_NSGA2)克里金模型结合多目标遗传算法求最优因变量及对应的最佳自变量组合研究（Matlab代码实现）
中国统计NJ数据-主要农作物种植结构（截至2024年底）.xlsx
12-16
中国统计NJ数据-主要农作物种植结构（截至2024年底）.xlsx
浏览器 12.4.0 安装包
12-16
浏览器 安装包 版本号 12.4.0。
水下图像处理指标（uicm,uism,uiconm,uiqm）和图像处理指标（psnr,ssim）研究（Matlab代码实现）
最新发布
12-16
水下图像处理指标（uicm,uism,uiconm,uiqm）和图像处理指标（psnr,ssim）研究（Matlab代码实现）内容概要：本文围绕水下图像处理指标（uicm, uism, uiconm, uiqm）和通用图像质量评价指标（psnr, ssim）展开研究，重点介绍了这些指标的理论基础、计算方法及其在图像增强与复原效果评估中的应用。文中提供了完整的Matlab代码实现，便于读者复现和验证不同算法对水下图像质量的影响，帮助科研人员定量分析图像处理算法的有效性。; 适合人群：具备一定图像处理基础知识，熟悉Matlab编程，从事计算机视觉、海洋探测、水下机器人等相关领域研究的研究生或科研人员。; 使用场景及目标：①评估水下图像增强算法（如颜色校正、去雾、对比度提升）的质量；②比较不同图像复原模型的性能差异；③为水下视觉系统提供客观的图像质量评判依据； 阅读建议：建议结合Matlab代码逐段理解各指标的实现逻辑，自行导入实际水下图像进行测试，并对比主观视觉效果与客观指标数值之间的关联性，以深入掌握指标的应用边界与局限性。
【嵌入式AIoT】基于边缘智能的轻量化模型部署：STM32与TensorFlow Lite Micro实现手势识别系统
12-16
内容概要：本文系统讲解了嵌入式AIoT从概念到边缘智能落地的全流程，涵盖关键概念如嵌入式AI、AIoT、边缘计算、模型量化与硬件加速，深入剖析模型轻量化、数据预处理优化、任务调度与跨平台部署等核心技术。通过STM32结合TensorFlow Lite Micro实现手势识别的完整案例，展示了从模型训练、量化、移植到MCU端推理的代码级实现，突出低延迟、低功耗的实时性设计，并探讨工业预测性维护、智能家居、农业监测和可穿戴设备等典型应用场景。最后展望了自动化压缩工具链、多模态融合、端云协同学习与超低功耗AISoC等未来方向。; 适合人群：具备嵌入式系统基础、熟悉C/C++与Python编程，有一定AI背景的1-3年经验开发者或物联网、智能硬件工程师。; 使用场景及目标：①掌握在资源受限设备上部署轻量AI模型的核心方法；②理解边缘智能系统的软硬件协同设计逻辑；③实现从传感器数据采集到本地AI推理的端到端开发；④应用于工业、家居、农业、健康等领域的智能化产品开发。; 阅读建议：建议结合STM32开发板与MPU6050传感器动手实践文中代码案例，重点关注模型量化、TFLM集成与RTOS任务调度部分，调试推理延迟与内存占用，深入理解边缘AI的性能优化策略。
【发分布鲁棒优化】一种新颖的基于矩的分布鲁棒优化（DRO）模型，该模型结合了条件风险价值(CVaR)，用于应对电力价格不确定性下的自调度问题【IEEE6、IEEE30、IEEE118节点】MATLAB
12-16
【发分布鲁棒优化】一种新颖的基于矩的分布鲁棒优化（DRO）模型，该模型结合了条件风险价值(CVaR)，用于应对电力价格不确定性下的自调度问题【IEEE6、IEEE30、IEEE118节点】MATLAB内容概要：本文介绍了一种结合条件风险价值（CVaR）的基于矩的分布鲁棒优化（DRO）模型，旨在解决电力价格不确定性下的自调度问题。该模型通过数学建模与优化方法，提升电力系统在面对市场价格波动时的鲁棒性和经济性，适用于IEEE6、IEEE30和IEEE118标准节点系统，并提供MATLAB代码实现，便于科研人员复现实验与进一步研究。; 适合人群：具备电力系统基础知识和优化理论背景，熟悉MATLAB编程，从事电力系统调度、能源管理或相关领域研究的研究生、科研人员及工程技术人员。; 使用场景及目标：①应对电力市场中价格不确定性带来的调度风险；②提升自调度方案的鲁棒性与经济性；③在IEEE标准测试系统上验证DRO-CVaR模型的有效性；④为含高比例可再生能源的电力系统提供风险规避策略支持。; 阅读建议：建议读者结合提供的MATLAB代码，深入理解DRO与CVaR的数学原理及其在电力调度中的建模过程，建议先掌握基础的优化理论与风险度量方法，再进行模型复现与参数敏感性分析，以充分发挥该资源的科研价值。
Js大数字丢失精度
10-29
<think>我们正在处理JavaScript中超过16位数字（包括小数）的精度丢失问题。根据引用[1][2][4]，我们知道JavaScript的数字类型使用IEEE 754双精度浮点数格式，安全整数范围是±9007199254740991（16位），超过这个范围的整数会丢失精度，小数运算也会因为浮点数表示的问题产生误差（如0.1+0.2不等于0.3）。 解决方案： 1. 对于整数：使用BigInt类型来处理大整数（超过16位）。但要注意，BigInt只能表示整数，不能表示小数，且不能和普通数字混用运算。 2. 对于小数或需要精确计算的场景：使用第三方库（如decimal.js、big.js、number-precision等）进行精确计算。 3. 数据传递：在前后端交互时，对于大数字（超过16位整数或需要精确表示的小数），应使用字符串传递，避免JSON.parse时自动转换为不精确的数字。 引用[3]中提到了两个库：number-precision和decimal.js，它们都能解决小数计算的精度问题。 根据用户的问题，我们总结如下： 一、整数处理（超过16位） 使用BigInt： let bigIntNum = BigInt("12345678901234567890"); // 字符串构造 console.log(bigIntNum.toString()); // 输出字符串形式 二、小数处理（需要精确计算） 使用decimal.js（功能更强大）： 安装：npm install decimal.js 使用： import Decimal from 'decimal.js'; let a = new Decimal('0.1'); let b = new Decimal('0.2'); let sum = a.plus(b); console.log(sum.toString()); // "0.3" 或者使用number-precision（轻量级）： import NP from 'number-precision'; let result = NP.plus(0.1, 0.2); // 0.3 三、数据传递 后端返回数据时，将大数字转为字符串。例如，在使用Spring Boot时，可以通过Jackson配置将Long类型和BigDecimal类型序列化为字符串。 四、避免使用不安全的方法 引用[2]中提到使用toFixed()，但注意toFixed()返回的是字符串，而且它本身也是基于浮点数运算，对于大数可能不准确。所以对于大整数和精确小数，不要依赖toFixed()。 五、特殊情况：货币处理 通常将货币转为最小单位（如分）用整数存储和计算，可以避免小数问题。但要注意，如果金额很大（超过16位整数），则仍需使用字符串或BigInt。 六、为什么不要用浮点数直接运算？ 因为浮点数的二进制表示不能精确表示所有小数，如0.1在二进制中是无限循环的，因此会产生舍入误差。 七、精度丢失示例： let a = 12345678901234567; console.log(a); // 12345678901234568 第17位开始不精确 let b = 0.1 + 0.2; console.log(b); // 0.30000000000000004 八、总结：对于超过16位的整数，使用BigInt或字符串；对于小数，使用decimal.js等库；在数据传输时，使用字符串表示大数字。 下面我们按照要求组织答案，包括数学公式解释原因，代码示例，以及相关引用。 </think>### JavaScript处理大数字丢失精度的解决方案 根据引用[1][2][4]，JavaScript的数字精度问题源于**IEEE 754双精度浮点数标准**，其最大安全整数为$2^{53}-1$（即9007199254740991）。当数字超过16位（整数部分）或包含小数时，会出现精度丢失现象： ```javascript // 精度丢失示例 const bigNum = 1234567890123456789; // 18位整数 console.log(bigNum); // 输出: 1234567890123456800（后两位变0） const decimal = 0.1 + 0.2; console.log(decimal); // 输出: 0.30000000000000004（引用[3]） ``` --- ### 解决方案体系 #### 1. **数据传递方案（核心）** 后端返回数据时，将大数字转为字符串格式（引用[1][4]）： ```json // 正确格式 { "id": "1234567890123456789", "amount": "123456789012.34567" } ``` **框架配置示例**： - Spring Boot（Java）： ```java @Bean public Jackson2ObjectMapperBuilderCustomizer jsonCustomizer() { return builder -> builder .serializerByType(Long.class, ToStringSerializer.instance) .serializerByType(BigDecimal.class, ToStringSerializer.instance); } ``` - Node.js（使用`json-bigint`）： ```bash npm install json-bigint ``` ```javascript const JSONbig = require('json-bigint')({ storeAsString: true }); const response = JSONbig.parse('{"id":1234567890123456789}'); ``` #### 2. **前端处理方案** **(1) 整数处理：BigInt类型**（引用[2][4]） ```javascript const bigIntId = BigInt("12345678901234567890"); console.log(bigIntId.toString()); // 完整输出字符串 // 运算示例 const sum = bigIntId + BigInt("10") // 正确输出 ``` **(2) 小数处理：decimal.js库**（引用[3]） ```bash npm install decimal.js ``` ```javascript import Decimal from 'decimal.js'; // 精确计算 const result = new Decimal("0.1").plus("0.2"); console.log(result.toString()); // "0.3" // 大数小数混合运算 const amount = new Decimal("123456789012.34567"); const total = amount.times(100); console.log(total.toString()); // "12345678901234.567" ``` **(3) 轻量级方案：number-precision**（引用[3]） ```javascript import NP from 'number-precision'; NP.plus(0.1, 0.2); // 0.3 NP.times(1.62, 20); // 32.4 NP.divide(1.21, 1.1); // 1.1 ``` #### 3. **表单输入解决方案** 在输入大数字时直接使用文本输入，避免自动转为数字： ```html <input type="text" inputmode="numeric" pattern="[0-9]*" onchange="handleBigNumber(this.value)"> <script> function handleBigNumber(val) { // 直接使用字符串处理 const bigNum = String(val); } </script> ``` --- ### 数学原理 精度丢失的根本原因是**浮点数的二进制表示限制**： $$ \text{双精度浮点数} = (-1)^{\text{sign}} \times 2^{\text{exponent}} \times \left(1 + \sum_{k=1}^{52} \frac{b_{52-k}}{2^k}\right) $$ 其中： - **52位尾数**最多精确表示$2^{53} \approx 9e15$（16位十进制数） - 小数部分需用二进制近似表示，例如： $$ 0.1_{10} = 0.0001100110011..._{2} \quad (\text{无限循环}) $$ --- ### 最佳实践建议 1. **数据交互规范**： - 所有超过15位的数字必须使用字符串传输 - 金额类数据建议转换为最小单位（如分）的整数 2. **计算规范**： ```javascript // 错误做法 ❌ const total = 0.1 + 0.2; // 正确做法 ✅ const total = new Decimal(0.1).plus(0.2); ``` 3. **避免方法**： - `toFixed()`仅用于展示，不可用于计算（引用[2]） - 禁用`parseFloat()`处理大数字（引用[4]） ---
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

得食猫

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值