Teradata中的四舍五入问题

在Teradata做数据舍入时,发现一些问题,如下例:
select cast('1234.505' as decimal(18,2))
--1234.50

select cast('1234.515' as decimal(18,2))
--1234.52

到底时怎么造成大的呢?

[@more@]查资料得知:Teradata中四舍五入的规则由DBSCONTROL下的参数 RoundHalfwayMagUp 决定,默认情况下RoundHalfwayMagUp = FALSE,意为按照Teradata的规则进行进位。当RoundHalfwayMagUp设为TRUE时,和正常的进位没有区别。Teradata的进位规则考虑的是:5是个中间值,进位或不进位都欠妥。因此他采取一种折中处理方法:
1、当5后面有1位不为0时,则进位;
2、当5后面位都为0或者没有其他位时根据5前面一位的奇偶,奇进偶不进,下面是一些例子:
select cast('1234.505' as decimal(18,2))
--1234.50

select cast('1234.515' as decimal(18,2))
--1234.52

select cast('1234.5051' as decimal(18,2))
--1234.51

select cast('1234.5052' as decimal(18,2))
--1234.51

select cast('1234.505001' as decimal(18,2))
--1234.51

select cast('1234.50500' as decimal(18,2))
--1234.50

select cast('1234.51500' as decimal(18,2))
--1234.52

select cast('1234.52500' as decimal(18,2))
--1234.52

设置RoundHalfwayMagUp = true,(设置成功需要重启数据库才能生效)则按标准的四舍五入进行取舍。

来自 “ ITPUB博客 ” ,链接:http://blog.itpub.net/16723161/viewspace-1034200/,如需转载,请注明出处,否则将追究法律责任。

转载于:http://blog.itpub.net/16723161/viewspace-1034200/

python+opencv简谱识别音频生成系统源码含GUI界面+详细运行教程+数据 一、项目简介 提取简谱中的音乐信息,依据识别到的信息生成midi文件。 Extract music information from musical scores and generate a midi file according to it. 二、项目运行环境 python=3.11.1 第三方库依赖 opencv-python=4.7.0.68 numpy=1.24.1 可以使用命令 pip install -r requirements.txt 来安装所需的第三方库。 三、项目运行步骤 3.1 命令行运行 运行main.py。 输入简谱路径:支持图片或文件夹,相对路径或绝对路径都可以。 输入简谱主音:它通常在第一页的左上角“1=”之后。 输入简谱速度:即每分钟拍数,同在左上角。 选择是否输出程序中间提示信息:请输入Y或N(不区分大小写,下同)。 选择匹配精度:请输入L或M或H,对应低/中/高精度,一般而言输入L即可。 选择使用的线程数:一般与CPU核数相同即可。虽然python的线程不是真正的多线程,但仍能起到加速作用。 估算字符上下间距:这与简谱中符号的密集程度有关,一般来说纵向符号越稀疏,这个值需要设置得越大,范围通常在1.0-2.5。 二值化算法:使用全局阈值则跳过该选项即可,或者也可输入OTSU、采用大津二值化算法。 设置全局阈值:如果上面选择全局阈值则需要手动设置全局阈值,对于.\test.txt中所提样例,使用全局阈值并在后面设置为160即可。 手动调整中间结果:若输入Y/y,则在识别简谱后会暂停代码,并生成一份txt文件,在其中展示识别结果,此时用户可以通过修改这份txt文件来更正识别结果。 如果选择文件夹的话,还可以选择所选文件夹中不需要识别的文件以排除干扰
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值