Armv8 - 64 SIMD浮点编程实战
1. 数据类型转换结果
在Armv8 - 64架构的SIMD浮点编程中,不同的数据类型转换操作会产生不同的结果,以下是一些常见转换操作的结果展示:
| 转换操作 | 输入值(a) | 输出值(x[0]) |
| — | — | — |
| CvtOp::I64_F64 | -122.666666670000, 1234567890123.750000000000 | -123, 1234567890124 |
| CvtOp::F32_U32 | 10, 500, 600, 1024 | 10.000000, 500.000000, 600.000000, 1024.000000 |
| CvtOp::U32_F32 | 1.250000, 100.875000, 200.000000, 3.141593 | 1, 101, 200, 3 |
| CvtOp::F64_U64 | 1000, 420000000000 | 1000.000000000000, 420000000000.000000000000 |
| CvtOp::U64_F64 | 698.400000000000, 1234567890123.750000000000 | 698, 1234567890124 |
| CvtOp::F32_F64 | 3.141592653590, 0.434294481903, -2.718281828459, 0.693147180560 | 3.141593, 0.434294, -2.718282, 0.693147 |
| CvtOp::F64_F32 | 0.111111
超级会员免费看
订阅专栏 解锁全文
1660

被折叠的 条评论
为什么被折叠?



