一次32bit有符号数据类型转换为64bit无符号数据类型引发的溢出错误

现象:

        在调试一款sensor,通过10帧->8帧->6帧,这样不断的降低帧率调试低照度下的图像效果。ISP配置文件上设置的最大曝光曝光参数为:

EXP:15266  Again:15494 Dgain:714  ISPDGain:1360。

当达到最低帧率最低亮度时,其调试工具界面上应该显示的也应该是如上最大的AE参数。

但实际情况是:在图像调试工具上显示的AE参数时,ispdgain显示居然可以达到1416,超过了isp配置中所设定的最大ispdgain阈值。
    

原因:

      当AE参数为:EXP:15266  Again:15494 Dgain:714  ISPDGain:1360,在驱动库调用接口设置相应节点EV值的时候,
      由于保存AE节点的数据类型都是设置的有符号的int类型,其最大值范围为-2147483648~2147483647,计算机中负数以补码的形式保存,故对应的二进制为:(10000000   00000000    00000000   00000000) ~(01111111   11111111   11111111  11111111)

    在计算节点最大EV值的时候,代入相应的曝光参

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值