float向u8和s8的转换

本文探讨了从float类型转换到u8或s8等整型时可能遇到的问题及陷阱,特别是当转换涉及到截断而非饱和处理时的情况。通过具体的代码示例,展示了直接转换可能导致的数据丢失问题。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

关于float向u8,s8这种类型转换,比较内藏玄机,还是小心为妙,这种级别的优化做了不如不做。

直接float向char类型的做法是用__ftol2_sse命令完成,具体怎么做的就不跟了,想跟也能跟,结果放在al里面,然后move byte到结果。

这里是如果是范围相当,float是char能表示的数结果是正确的,如果是更大的,就是从4个byte中截取一个byte,不会有自动的clamp到边界-128这种。

到了针对unsigned char的表示可以看出使用频繁的loat,store完成的,本身就很慢,尽管c++代码很简洁,但是出来的汇编并不好,结果是截取类的,也是不会clamp。


float a = -10.0f;

004132FE fld dword ptr [__real@c1200000 (415850h)]

00413304 fstp dword ptr [a]

char b = static_cast<char>(a);

00413307 fld dword ptr [a]

0041330A call @ILT+220(__ftol2_sse) (4110E1h)

0041330F mov byte ptr [b],al

unsigned char c = (unsigned char)a;

00413312 fld dword ptr [a]

00413315 fnstcw word ptr [ebp-0E6h]

0041331B movzx eax,word ptr [ebp-0E6h]

00413322 or eax,0C00h

00413327 mov dword ptr [ebp-0ECh],eax

0041332D fldcw word ptr [ebp-0ECh]

00413333 fistp dword ptr [ebp-0F0h]

00413339 fldcw word ptr [ebp-0E6h]

0041333F mov al,byte ptr [ebp-0F0h]

00413345 mov byte ptr [c],al


parallel studio自带intel 的指令集的文档,很不错

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值