decimal 小数位数控制

本文介绍了在编程中如何处理小数位数较多的情况,包括将double类型转换为string类型的精确控制方法,以及在数据库设计中使用decimal类型来指定小数位数的方式。通过具体的示例说明了不同格式化字符串对输出结果的影响。

小数位数较多时,转为string类型是变成了科学计数的形式:如 1.2E-05

double Total_cbm=0.000001;

string test = Total_cbm.ToString();//结果是1.2E-05 显然不是我们想要的结果

改为:

string test = Total_cbm.ToString(“f6”);//结果是0.000001

 

在数据库设计是常常会看到decimal(18, 6) 、decimal(18, 2) 这个就在插入数值时控制了小数的位数

如: decimal(2,1),有效长度为2,小数位占1位。  

       此时,插入数据“12.3”、“12”等会出现“数据溢出错误”的异常;

                插入“1.23”或“1.2345...”会自动四舍五入成“1.2”;插入“2”会自动补成“2.0”,以确保2位的有效长度,其中包含1位小数。

转载于:https://www.cnblogs.com/dongxizhen/archive/2012/08/20/2647525.html

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值