【通用语法】C++ c# JAVA double 求指定有效位数 4舍5入,确定一个数组的整数上下限

获取数组整数上限值函数

//fValue数组中的最大值
//n 有效位数
//go 进位, 四舍五入时用0.5,这里求整数上限所以1
float GetRangeMax( float fValue,int n /*= 2*/,int go /*= 1*/ )
{
	float f = 0.0;
	for (int i = -8;i<8;i++)
	{
		double nEx = pow(10.0 , i);
		if (nEx>abs(fValue))
		{
			nEx /=pow(10.0,n);
			__int64 t = (__int64)((fValue/nEx))+go;
			f = (double)t*pow(10.0,i-n);
			t = (int)(f*1000000);
			f = (double)t/1000000.0;
			break;
		}
	}
	return f;
}


获取数组整数下限函数

//fMax数组整数上限值 
//fMin 数组最小值(fmin>0)
float CCurveCtrl::GetRangeMin( float fMax,float fMin ,int n)
{
	float f = 0.0;
	for (int i = -8;i<8;i++)
	{
		double nEx = pow(10.0 , i);
		if (nEx>abs(fMax))
		{
			nEx /=pow(10.0,n);
			__int64 t = (__int64)((fMin/nEx));
			f = (double)t*pow(10.0,i-n);
			t = (int)(f*1000000);
			f = (double)t/1000000.0;
		}
	}
	return f;
}

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值