decimal 和 float

最新推荐文章于 2024-02-06 14:37:57 发布
最新推荐文章于 2024-02-06 14:37:57 发布
阅读量694 收藏 1
点赞数
分类专栏： 编程小拾 文章标签： 金融
本文详细对比了decimal与float两种数据类型的特性与应用场景。decimal适用于金融和统计领域，因其提供更高的精度，而数值范围较小；float则更适用于科学计算，虽然其精度较低但数值范围更大。此外，文章还讨论了这两种数据类型在存储空间、运算速度及数据库存储等方面的具体表现。
decimal 和 float 在基础上是完全不同的数据类型

decimal 是存储的是精确值，float则是近似值

decimal(n)
数值范围 1E-38 to -1E-38
有效数字 38位


float(n)
数值范围 - 1.79E+308 to -2.23E-308, 0 and 2.23E-308 to 1.79E+308
有效数字 7 or 15

结论:

decimal 精度高, 数值范围小,float 精度低, 数值范围大
decimal 运算速度比float快, 使用float时避免使用 = 运算(因为float的不确定性)
decimal 适合金融, 统计, float适合科学运算
----------------------------------------------------
1.金额数据量的大小,量大用float,能省好多空间
2.运算与精度要求,要求高用decimal
------------------------------------------------------
用float 存到数据库会出现10.000000887788
后面的数字0887788是随机的，处理起来比较麻烦，实际开发经验
C#基础-decimal，double和float的区别总结
qq_30725967的博客
04-03 1万+
1.精度和位数的区别： float 单精度浮点 32bit， double 双精度浮点64bit， decimal是高精度 128bit，浮点型。 float double 是 基本类型（primitive type），decimal不是。 float 有效数字7位，范围 ±1.5 × 10E−45 to ±3.4 × 10E38 double 有效数字15/16 位，范围 ±5.0 × 10 E...
【MySQL】MySQL中常用的数据类型float和decimal、char和varchar、datetime和timestamp、enum和set
Sunnyside_
03-31 3058
文章目录一、数据类型的分类二、小数类型2.1 float 类型2.2 decimal 类型2.3 /etc/my.cnf三、字符串类型3.1 char 类型3.2 varchar 类型3.3 如何选择固定长度还是变长字符串四、时间日期类型4.1 date4.2 datetime4.3 timestamp五、string类型5.1 enum类型5.2 set类型 一、数据类型的分类 数值大小 补充： 在MySQL中，整型可以指定有/无符号，默认是有符号的；通过unsigned来说明某个字段是无符号.
DECIMAL 与 FLOAT 比较
威少（微笑）
08-19 2042
目录 一：一般Java程序中 二：DB2中的单双精度 （1）定义 （2）精确性 （3）性能优势 一：一般Java程序中 Double 与 Float 的区别： 　　01.在内存中占有的字节数不同 　　　　单精度浮点数在机内存占4个字节 　　　　双精度浮点数在机内存占8个字节 　　02.有效数字位数不同 　　　　单精度浮点数有效数字8位 　　　　双精度浮点数有效数字1...
decimal与 float的区别
weixin_30654583的博客
01-08 748
decimal 数据类型最多可存储 38 个数字，所有数字都能够放到小数点的右边。decimal 数据类型存储了一个准确（精确）的数字表达法；不存储值的近似值。 定义 decimal 的列、变量和参数的两种特性如下： · p 小数点左边和右边数字之和，不包括小数点。如 123.45,则 p=5，s=2。 指定精度或对象能够控制的数字个数。 · s 指定可放到小数点右边的小数位数或数字...
float、double(浮点数)区别还有和decimal(定点数)的比较
cristianoxm的博客
07-15 7016
一、三者的区别介绍 float:浮点型，含字节数为4，32bit，数值范围为-3.4E38~3.4E38（7个有效位） double:双精度实型，含字节数为8，64bit数值范围-1.7E308~1.7E308（15个有效位） decimal:数字型，128bit，不存在精度损失，常用于银行帐目计算。（28个有效位） 单精度浮点数在机内占4个字节，用32位二进制描述。 双精度浮点数在机内占8个字节，用64位二进制描述。 浮点数在机内用指数型式表示，分解为：数符，尾数，指数符，指数四部分。 数符占1位
详细分析sqlserver中的小数类型（float和decimal）
01-19
在SQL Server中实际上只有两种小数数值类型，分别是float（近似数值）和decimal（精确数值），这两种类型能表示所有的小数数值类型。 float（近似数值类型） float表示的是近似数值，存在一定的精度缺失。 float(n)...
DECIMAL和FLOAT的区别
最新发布
07-09
### 三、DECIMAL 和 FLOAT 数据类型在 MySQL 中的区别 MySQL 提供了多种数值数据类型用于存储浮点数和定点数，其中 `DECIMAL` 和 `FLOAT` 是两种常见的选择。它们在精度处理、存储方式和适用场景上有显著区别。 ##...
decimal和float转化（flask）
02-28
### 如何在 Flask 中实现 Decimal 和 Float 类型互相转换 为了处理 `Decimal` 和 `Float` 类型之间的转换，在 Flask 应用程序中可以采用多种方法来确保数值精度和准确性。 #### 使用自定义转换器支持 Decimal 参数...
如何解决MySQL中DECIMAL和FLOAT的类型转换差异？
04-09
嗯，用户的问题是关于MySQL中DECIMAL和FLOAT类型转换差异的解决方案。首先，我需要回顾一下这两种数据类型的区别。DECIMAL是精确的定点数类型，适合需要高精度的计算，比如财务数据。而FLOAT是近似值的浮点数，存储...
decimal与float
junshangshui的专栏
12-15 1570
<br />declare @a1 float<br />declare @a2 decimal(18,2)<br />set @a1=1.2<br />set @a2=2<br />print @a1*@a2    --2.4<br /><br />declare @a1 decimal(18,2)<br />declare @a2 decimal(18,2)<br />set @a1=1.2<br />set @a2=2<br />print @a1*@a2    --2.4000<br /><br /
MySQL中Decimal类型和Float Double的区别(详解)
09-09
下面小编就为大家带来一篇MySQL中Decimal类型和Float Double的区别(详解)。小编觉得挺不错的，现在就分享给大家，也给大家做个参考。一起跟随小编过来看看吧
MySQL中float、double、decimal三个浮点类型的区别与总结
热门推荐
迪之的博客
02-06 1万+
double: 因为小数位精度高的缘故，所以双精度用来进行高速数学计算、科学计算、卫星定位计算等处理器上双精度型实际上比单精度的快, 所以: 当你需要保持多次反复迭代的计算精确性时，或在操作值很大的数字时，双精度型是最好的选择。2、字段decimal(20,6)，20-6=14，其中小数部分为6，就对应上表中的3个字节，而整数部分为14，14-9=5，就是4个字节再加上表中的3个字节。在存储同样范围的值时，通常比decimal使用更少的空间，float使用4个字节存储，double使用8个字节 ,
float和decimal的区别
一字并肩王的博客
12-06 2982
decimal和float的标记
decimal类型对象里面定义什么类型_MySQL中Decimal类型和Float Double的区别(详解)
weixin_35696092的博客
01-14 393
MySQL中存在float,double等非标准数据类型，也有decimal这种标准数据类型。其区别在于，float，double等非标准类型，在DB中保存的是近似值，而Decimal则以字符串的形式保存数值。float，double类型是可以存浮点数(即小数类型)，但是float有个坏处，当你给定的数据是整数的时候，那么它就以整数给你处理。这样我们在存取货币值的时候自然遇到问题，我的defaul...
float（二进制）和 Decimal（十进制）
sslr11的博客
03-15 136
有人问了，那用float算完，再round一下，不也一样么？因为Decimal追求的是消除二进制带来的误差，这和本身除不尽、四舍五入不是一个概念。
MySQL中float、double、decimal三个浮点类型的区别与总结!
极客小俊
08-14 1万+
那么多浮点用哪个？
decimal float
05-21 454
在MySQL中我们经常会用到一些高精度和长度的数据类型，例如对于金额的时候，一般会选择 decimal 或者 numeric 类型。 当然在遇到金额计量的时候也尝试过 float 类型，float(M,D)后来，在精度精确到小数点8为的时候，保存的同时就发现了问题，最后一位会四舍五入，而不是自己手动输入的值。后来查阅了相关资料才找到原因： 区别： 在MySQL中，loat，double 等非标准类型，在DB中保存的是近似值。 而 Decimal 则以字符串的形式保存数值。 解释： float，double
python浮点数类型与数学_Python3标准库：decimal定点数和浮点数的数学运算
weixin_39572764的博客
11-21 360
1. decimal定点数和浮点数的数学运算decimal模块实现了定点和浮点算术运算，使用的是大多数人所熟悉的模型，而不是程序员熟悉的模式(即大多数计算机硬件实现的IEEE浮点数运算)。Decimal实例可以准确的表示如何数，对其上火其下取整，还可以限制有效数字的个数。1.1 Decimal小数值被表示为Decimal类的实例。构造函数取一个整数或字符串作为参数。在使用浮点数创建Decimal之...
mysql float、decimal类型介绍
赶路人儿
08-14 5523
一、浮点数： float和double类型表示近似数字数据值（浮点数），前者是单精度mysql用4个字节存储，后者是双精度用8个字节存储。 对于浮点数，SQL标准允许在浮点数后跟一个括号来指定精度（以位为单位，而不是指数的范围），例如：float（p）。 mysql也支持此可选的精度规范，float（p）中的精度值仅用于确定存储大小，从0到23的精度导致4字节单精度float列；从24到53的精度导致8字节的双精度double列。 mysql还允许使用非标准语法：float（M，D）或real（M，D
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值