编译器优化代码所带来的隐藏问题 | `int isTmax(int x)` in datalab

​先来看一段代码和运行结果：

// question.c
#include <stdio.h>

int main()
{
    int x = 0x7fffffff;
    // 判断数字x是否为TMax(即32位二进制补码所能表示的最大整数)
    printf("!((0x7fffffff + 1) ^ 0x80000000)) = %d\n", !((0x7fffffff + 1) ^ 0x80000000));
    printf("!((         x + 1) ^ 0x80000000)) = %d\n", !((         x + 1) ^ 0x80000000));
}

注意到，当把0x7fffffff替换成有相同值的x时，同样的运算却出现了不同的结果。所以问题出现在哪里？

​最开始是考虑0x7fffffff与x的性质有着细微的差别，但在多次探寻后无果，因此舍弃此种原因。

然后，我试图通过汇编代码来理解这段运算过程，为此，我写了如下代码：

// test.c
#include <stdio.h>

int isTmax(int x)
{
    x = x + 1;
    int Tmin = (1 << 31);
    int answer = !(x ^ Tmin);
    return answer;
}

int main()
{
    printf("%d\n", isTmax(0x7fffffff));
}

可以看出，不同的优化等级(-O0/-O1)所输出的结果是不同的。

进一步通过gdb查看不同优化等级下的汇编代码：

-O1情况下的汇编代码：

-O0情况下的汇编代码：

可以二者对于!((x + 1) ^ 0x80000000)的实现方式还是有所不同的。

而按照我们原封不动的意思，我们也可以直接写出相应的汇编代码：

而运算结果也没有任何问题。

综上，以后再写C语言代码进行运算的时候，一定要注意编译器在不同优化等级以及不同代码排列方式下的行为，因为有时这些优化可能会带来糟糕的结果。