tugouxp的专栏

任意不图灵完备的硬件/语言都可以用图灵完备的硬件/语言来模拟，但是反之却不然。所有的图灵完备语言/硬件在计算上都是等价的，因为他们都用相同的表达能力。

它们分别是.nv_fatbin，__nv_module_id和.nvFatBinSegment三个段.进一步分析，.nv_fatbin和__nv_module_id属性是READONLY，而.nvFatBinSegment则是DATA,说明运行时.nv_fatbin和__nv_module_id为只读，而.nvFatBinSegment支持读写，说明CUDA的代码保存在nv_fatbin中，而nvFatBinSegment则放在数据段。

优化时遵守的一些原则：1.Grid一定要给足block.2.Block内一定要给足thread,目的是提高并发WARP的数目，隐藏延迟.3.Block内线程的数目一定是warpsize的整数倍.每个warp的执行上下文（execution context，如程序计数器 和 寄存器等）在warp的整个生命周期内都被保存在片上内存（on-chip memory）。因此从一个执行上下文切换到另一个执行上下文是无开销的。