SUM()求和时的精度问题,跟数据表字段定义有关

最新推荐文章于 2021-02-03 04:24:34 发布
最新推荐文章于 2021-02-03 04:24:34 发布
阅读量870 收藏
点赞数
文章标签： 数据库 python 大数据
本文探讨了使用SUM()函数进行求和操作时遇到的精度问题。具体表现为查询结果出现意料之外的小数位数，即使数据表字段定义的精度较小。通过对数据表字段定义的检查发现，TotalPrice字段定义为单精度，只精确到两位小数，但查询结果却出现了远超此精度的情况。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

SUM()求和时的精度问题,跟数据表字段定义有关

sum以最精确的 expression 数据类型返回所有表达式值的和
返回结果:
money 精确到货币单位的千分之十
float(n) n在1-14,精度7位，25-53，精度15位
decimal 精度38位
int 精度为整数位数

<%=conn.execute("Select SUM(TotalPrice) as List1 from OrderList where TranslateStatus=1")("List1")%>

语句查询的结果居然会返回很长的数字(5700.25001144409)11位小数

查找数据表中对应的 TOTALPRICE字段定义.单精度.精确到2位小数.

总的数据没有很大的差异.

iteye_1503
关注
大数据建模中的维度建模详解
AI天才研究院
04-22 823
随着企业数字化转型的深入，数据已从“辅助工具”升级为“核心资产”。传统关系型数据库（OLTP系统）的范式建模（第三范式）虽能保证数据一致性，但难以满足复杂多维分析需求（如“2023年Q4华东地区30岁以下女性用户购买的客单价TOP10商品”）。维度建模专为OLAP场景设计，通过冗余存储换取查询效率，已成为数据仓库、BI分析、大数据平台的标准建模方法。本文将覆盖维度建模的全生命周期，包括理论原理、设计步骤、实战案例及行业应用。核心概念：解析事实表、维度表、星型/雪花模型等基础定义；
软件测试 - sql - 与数据对话的语言
是草莓味的啊
01-18 2247
软件测试 - 初识数据库
mysql sum精度问题
tyc_054600的博客
05-29 5171
mysql sum java 精度
mysql union all sum_SQL Server UNION ALL 结果 SUM函数造成精度丢失
weixin_39613188的博客
02-03 837
使用场景：在进行多维度汇总数据时，需要将不同数据类型，不同数据精度的数据合并成一张表时，相关计算出现精度丢失问题。问题排查：在进行分段排查后，找到丢失原因，SUM函数造成精度丢失场景在现：1. 创建表CREATE TABLE A_TEST(ID_CODE NVARCHAR(10),VAR1 DECIMAL(17,0) -- DECIMAL(17,0) 做为数量使用 小数位为0，※1 问题)CRE...
mysql中SUM时数据类型不一致导致的数据精度问题
12-30 1505
执行mysql语句时包含sum求和操作，且sum()里面进行了if判断，if的结果可能是字段值或者为'0'，也就是后面这个'0'导致了数据精度问题，'0'被认为是字符串0，跟字段类型不一致导致计算求和时出现精度问题。 ...
oracle的sum函数精度问题_Excel中的这些烧脑问题，你遇到过几种？
weixin_28869649的博客
01-29 1475
小伙伴们好啊，前几天分享的中级篇介绍了几种容易造成公式错误的情况。今天和大家来分享高级篇，高级篇嘛，当然是以烧脑为主，介绍一些在论坛和QQ群困扰了很多人的公式错误原因。1，EDATE和EOMONTH到底能不能返回数组？有些时候需要引用数据源返回相关的数组结果，但很多小盆友引用了区域后发现EOMONTH这些函数结果是报错的。因此得出一个结论，这批函数在引用区域后是不能返回数组的。但是，这只是因为这批...
mysql sum计算精度丢失
04-11
另外，用户可能需要检查是否在应用层处理数据时有类型转换的问题，比如将DECIMAL转为浮点数导致精度丢失。应该建议在代码中保持DECIMAL类型，直到最后需要显示或存储的时候再处理。 还有，MySQL的版本也可能影响，...
易语言实现数据库字段求和功能详解
易语言提供了丰富的数据库操作命令，例如“取数据库表记录数”、“读数据库表记录”、“数据库表定位记录”、“读取数据库表字段值”等。通过组合使用这些命令，可以实现对数据库字段进行求和操作。 ### 4. 示例...
ERROR: function sum(character varying) does not exist LINE 1: SELECT SUM(project_costs)
最新发布
08-03
我们正在解决用户的问题：在SQL查询中使用SUM函数时出现错误`function sum(character varying) does not exist`，因为对字符类型的字段`project_costs`进行了求和操作。 错误原因：SUM函数只能用于数值类型（如...
mysql sum 统计数值出现精度问题
z1340954953
06-23 1万+
mysql sum 累计求和精度问题
python 求和 精度问题_解决Numpy中sum函数求和结果维度的问题
weixin_39578513的博客
12-05 856
使用Numpy(下面简称np)中的sum函数对某一维度求和时，由于该维度会在求和后变成一个数，所以所得结果的这一维度为空。比如下面的例子：a = np.array([[1,2,3],[4,5,6]])b = np.sum(a,axis=1)print(b.shape)# (2,)所以，对于一个shape为(2,3)的数组，在默认情况下使用np.sum函数求和后得到的结果shape是 (2,)，如果...
SUM(IF())函数损失精度问题
weixin_44355908的博客
09-21 610
主要原因是数据类型转换产生的错误: SUM(IF(a=2, a, ‘0’)) SQL执行之后应等于0, 实际结果多出30多位小数位, 检查之后发现是, else条件设置的字符类型的’0’, 而我数据库中的a值为int类型
python 求和 精度问题_python – pandas中的.sum()方法会产生不一致的结果
weixin_39692761的博客
12-15 1656
我有一个大型DataFrame(大约4e 07行).在对它进行求和时,无论是在列选择之前还是之后,我得到2个显着不同的结果.此外,类型从float32更改为float64,即使总计都低于2 ** 31df[[col1, col2, col3]].sum()Out[1]:col1 9.36e+07col2 1.39e+09col3 6.37e+08dt...
mysql sum 统计字段数值类型是double出现精度失真问题
热门推荐
qq6407521的博客
07-21 2万+
最近在报表统计信息时候，统计的字段值都是double类型的小数，使用sum累计求和的时候，意外出现很多位的小数 解决方法:将字段值转为指定精度的decimal数值，在进行sum求和，例如cast (字段 as  decimal(18,2))可以指定精度 ok 就这样结束。亦或者在java后台程序使用Bigdecimal 类对数
ACCESS中用SUM()函数的精度问题
dd_zhouqian的专栏
05-26 2305
链接来自 https://zhidao.baidu.com/question/74046761.html 我在access中使用sum函数时也遇到了该问题，明明数据表中存储的数据是两位小数，通过select value from t_table 与通过select sum(value) from t_table 查询的数据就是不一样，sum方式查询到的结果会出现多位小数. 具体原因不清楚，这...
mysql sum 默认 精度_mysql sum函数结果出现多达13位小数的解决方案！
weixin_33182798的博客
01-18 2631
第一次查询结果，小数位有13位！解决之后正常查询结果，只有2位！sql语句：(SELECT SUM(o_g.goods_amount) ASamount_sum,SUM(o_g.goods_cost*o_g.goods_number) AScost_sum,SUM(o_g.goods_number) AS number_sumFROM erp_order_goods AS o_gLEFT OUTE...
数据库SQLServer的函数集合
beryljer的博客
02-18 1413
一.聚合函数: 聚合函数对一组值执行计算并返回单一的值。除了 COUNT 以外,聚合函数忽略空值。聚合函数经常与 SELECT 语句的 GROUP BY 子句一同使用。” 聚合函数的5种：avg()平均值，sum()求和，count()数量，max()最大值，min()最小值 创建了一个表，来做个例子吧： avg： ...
关于mysql中sum出现精度非正常的问题
weixin_42103227的博客
05-30 4976
类型为double，sum运算出错，出现1.0000000000032，需要的数值为1.00。 解决方法：cast (字段 as decimal(18,2))指定精度。
sum求和时忽略nan
03-22
好的，我现在需要帮助用户解决在MATLAB中使用sum函数时忽略NaN的问题。首先，用户之前询问过如何合并矩阵，现在转向另一个主题，即求和时如何处理NaN值。我需要确保回答准确且符合用户的需求。 首先，我得回想一下...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值