浮点数精确位数

最新推荐文章于 2024-10-21 15:18:05 发布

wangliwei4321

最新推荐文章于 2024-10-21 15:18:05 发布

阅读量1k

点赞数

CC 4.0 BY-SA版权

分类专栏： java 文章标签： java

本文链接：https://blog.youkuaiyun.com/wangliwei4321/article/details/54946011

java 专栏收录该内容

11 篇文章

订阅专栏

用浮点数时候，经常会遇到相加得到的结果如下:3.00000001这样的结果

如果用BigDecimal就可以解决这种问题。

代码如下：

-------浮点数，容易出现很大的数字的不精确，我们用BigDecimal来代替
 /**
     * rev 
     * @param event
     */
    public void recTotalCost(ActionEvent event){
    	this.cleanErrorMsg();
    	BigDecimal b1 = new BigDecimal(Double.toString(0.0)); //total
    	BigDecimal b2 = new BigDecimal(Double.toString(0.0)); //unitCost
    	BigDecimal b3 = new BigDecimal(Integer.toString(0)); //recQty
    	PoDetail item = null;
    	if(availablePoDetailList!=null&&!availablePoDetailList.isEmpty()){
    		for (int i = 0; i < availablePoDetailList.size(); i++) {
            	item = availablePoDetailList.get(i);
            	if(item.getActiveFlag()!=null&&item.getActiveFlag().equals("Y")){
            		b2 = new BigDecimal(Double.toString(item.getUnitCost()!=null?item.getUnitCost():0.0)); 
                	if( item.getRecQty()!=null &&  item.getRecQty()>0){
                		int recQty = item.getRecQty();
                		b3 = new BigDecimal(Integer.toString(recQty)); 
                		b1 = b1.add(b2.multiply(b3));
                	}
            	}
            	
            }
            this.poItem.setRevTotalCost(b1.doubleValue());
            msg.sendInfoMSG("");
    	}else{
    		msg.sendErrorMSG("NO data");
    	}
        
    }