无语的double精度问题

最新推荐文章于 2024-07-23 21:21:48 发布

最新推荐文章于 2024-07-23 21:21:48 发布 · 113 阅读

文章标签：

#C #C++ #C# #Java

Java 专栏收录该内容

12 篇文章

订阅专栏

本文探讨了Java中使用Double类型进行大数值运算时遇到的问题，并通过示例代码展示了精度丢失的现象，提出了对于内置数学函数Math.pow()使用的疑问。

Double c = 18000000000000000D + 10;
Double d = 18100000000000000D + 10;		
		
System.out.println(c.longValue());
System.out.println(d.longValue());

如上代码，将输出奇怪的结果，对Java 的double和float不抱希望了。而Math.pow()这个方法输出的是double只有dobule型，计算个次方还要我类型转换吗？！看来只能自己写代码实现了

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

iteye_5372

关注关注

0
点赞
踩
0

收藏

觉得还不错? 一键收藏
0
评论
分享

复制链接

分享到 QQ

分享到新浪微博

扫一扫
举报

举报

专栏目录

Qt开发经验总结

草上爬的博客

12-02

1万+

增加了很多轮子，同时原有模块拆分的也更细致，估计为了方便拓展个管理。把一些过度封装的东西移除了（比如同样的功能有多个函数），保证了只有一个函数执行该功能。把一些Qt5中兼容Qt4的方法废弃了，必须用Qt5中对应的新的函数。跟随时代脚步，增加了不少新特性以满足日益增长的客户需求。对某些模块和类型及处理进行了革命性的重写，运行效率提高不少。有参数类型的变化，比如 long * 到 qintptr * 等，更加适应后续的拓展以及同时对32 64位不同系统的兼容。

float和double的精度计算

zhanglinlove的博客

10-17

1334

Java浮点数的取值范围与其精度，必须先了解浮点数的表示方法，浮点数的结构组成：由符号位，指数位，尾数位组成。 Java中浮点数采用的是IEEE 754标准。一个float4字节32位，分为三部分：符号位，指数位，尾数位符号位(S)：最高位（31位）为符号位，表示整个浮点数的正负，0为正，1为负指数位(E)：23-30位共8位为指数位，小数部分最高有效位是1的数被称为正规（规格化）形式。小数...

参与评论您还未登录，请先登录后发表或查看评论

js小数运算精度丢失的问题

mirajay_yeah的博客

11-30

1262

用js进行加减乘除运算（涉及到小数）是有可能出现问题的，例如： 0.1 + 0.2 = 0.30000000000000004 0.3 - 0.2 = 0.09999999999999998 0.3 * 1 = 0.2999999999 … 是不是很神奇，觉得如此简单的计算计算机是不应该出错的，怎么会呢？哈，想了解这个问题，首先我们应该明白，计算机只能看懂二进制语言，那么0.1和0.2转换成二进制是多少呢？ JS 遵循 IEEE 754 规范，采用双精度存储（double precision），占用 64

两小数相加，解决JS两数相加的精度问题

qq_42582339的博客

10-11

3127

两小数相加，解决JS两数相加的精度问题前言加入博客3年，第一次写文章，实在对自己有点无语！但对于前端的学习自己还是个初学者，希望能坚持，加油学习。话不多说，开始第一次。 JS中小数相加存在的精度问题首先来看一段示例： console.log(0.1+0.2);//0.30000000000000004 console.log(0.2+0.7);//0.8999999999999999 JS中两数小数相加产生精度问题的原因： 1、js中的数字类型只有number类型，不区分浮点型和整形，直接以浮点型d

c语言double最大整数最小正数,用C语言输出DOUBLE类型的最大值怎么做？

weixin_31423913的博客

05-20

2239

2012-10-03 回答VC2008中的float.h头文件中的宏定义：#define DBL_MAX1.7976931348623158e+308 /* max value */追问：我是初学者。。。。那个范围是只有自己试出来吗。。还是直接输入。。那长串。。追答：要了解这个，需要学习一下浮点数类型的内存模型。SOSO问问不准贴网址，帮你找到了都不能贴出来。无语了。这是那个网站的内容：从...

java double 计算出错的问题

shizhu_1010的专栏

10-17

1378

最近在做android上的商城应用使用到 double 进行加减计算是出现错误时不时出现浮点数计算不精确的问题。纠结好久，以为我所学到的加减乘除已经out了。。下面这个错误： 398649.9+0.2 = 398650.10000000003 着实让我无语。其实并不是我的用法有问题，而是对 double这种数据类型了解的不深而已，只停留在表面上的数字，没有去深究其构成。 h

数值计算中的精度问题

浪子的专栏

11-06

2272

最近发现项目的代码有一些非常无语的问题，其中一个最恶心的就是这个计算精度的问题，闲话不说，先来看两段代码：精度问题之js： function test(){ a = 10 ; b = 9.03; c = a - b; } 这段代码的运行结果是0.9700000000

poj3892 高精度

习惯与规则决定命运

07-31

3643

RSA Factorization Time Limit: 1000MS Memory Limit: 65536K Total Submissions: 471 Accepted: 124 Description The positive integer n is given. It is known that n = p * q,

高精度-----乘法

最新发布

2303_79552392的博客

07-23

227

找规律，对于第i为有贡献的东西就是a，b下标和为i的数字的乘积。

P1595 信封问题

weixin_30299539的博客

10-08

题目描述某人写了n封信和n个信封，如果所有的信都装错了信封。求所有信都装错信封共有多少种不同情况。输入输出格式输入格式：一个信封数n（n<=20）输出格式：一个整数，代表有多少种情况。输入输出样例输入样例#1：复制 2 输出样例#1：复制 1 输入样例#2：复制 3 输出样例#2：复...

DMA多通道电流采集时序冲突揭秘：高效规避数据错位与延迟问题

# DMA多通道电流采集系统的深度实践与工业级优化在智能家居设备日益复杂的今天，确保无线连接的稳定性已成为一大设计挑战。而当我们把视线从消费电子转向工业现场——电机轰鸣、变频器高频切换、PLC实时调控——你...

对高斯-约旦消元法的深入研究（包含对其无解、无穷解的特判方法）

PerfectPeter的博客

11-05

1951

1 -2 3 6 4 -5 6 12 7 -8 10 21

训练日记-23

G_Meteor的博客

09-17

334

今周末这两天的比赛完全不是一个档次的，周六那场比赛不仅题目恶心而且题意还表达有问题，很无语。。。而且其中一道题竟然是根据数据大小以及数据量之间的关系可以找出一个万能答案，看到题解我眼泪掉下来。。。第一次碰到这样的题。。。不过，周末的题还挺不错，符合正常的出题规则。但是最终以三题告终，并不是太理想。其中两道为一道签到题，另外一道为数学+二分的题，最值得庆幸的则是第三道。第三道也是与

Unity 【Content Size Fitter】- 聊天气泡自动适配Text文本框大小

当代野生程序猿

02-25

6722

通常在展示人物对话的时候文本的长度是不定的，因此会需要动态的调整对话内容文本框的背景图片的大小，这里以如下这种气泡框的对话为例：实现该需求涉及到的内容包括Content Size Fitter组件的使用、2D Sprite工具包的使用。 Content Size Fitter组件用于Text文本框，如图所示，我们将Horzontal Fit设为Preferred Size，当我们调整Text文本框中的内容时，其大小会自动进行调整。注意Rect Transform中Pivot轴心点的设置

新唐NUC972 Linux（一）：USB烧写linux出厂镜像

小破孩的博客

02-20

3796

USB烧写出厂镜像文章目录USB烧写出厂镜像前言一、硬件连接二、安装驱动三、烧写linux程序四、运行程序前言今天开始进军linux，学了那么久单片机，也摸得七七八八，至少点个灯还是会的。本人之所以买酷客的linux开发板主要是便宜，资料也算齐全，虽然没有原子那么好，不过也够了，找那么多借口，其实就是qiong。今天先从USB烧录官方提供的linux相关程序到芯片开始吧。一、硬件连接 1、连接电源线 2、RS232转USB，需要安装CH340驱动，用于在电脑串口超级终端中查看调试信息。 3、U

WeChall CTF Writeup（一）

weixin_43211186的博客

02-25

1821

以下题目标题组成： [Score] [Title] [Author] 文章目录0x01 1 Training: Get Sourced by Gizmore0x02 1 Training: Stegano I by Gizmore0x03 1 Training: Crypto - Caesar I by Gizmore0x04 1 Training: WWW-Robots by Gizmore0x05 1 Training: ASCII by Gizmore 0x01 1 Training: Get Sou

C语言每日一练——第126天：佩奇借书问题