上一篇 ClickHouse为什么这么快(一)减少数据扫描范围 我们说到了ClickHouse中使用列存储,每个列都单独存储为一个文件,每个文件都是由一个或多个数据块组成,也就是说:每个文件由一个或多个数组组成,这篇博客就说一说如何使用SSE指令优化在数组上的查询。
问题:为了让性能对比更加明显,我们假定有一个表tab02包含一个uint8类型的列col,完成以下查询:
SELECT count(col) FROM tab02 WHERE col > 0
由于col的数据存储为一个数组,我们可能会写出如下的代码:
size_t total1 = 0;
for (size_t i = 0; i < TotalCnt; i++)
{
if (pData[i] > 0)
{
total1++;
}
}
每次循环对一个数进行比较,当满足条件时让统计变量自增1,最后输出统计的变量值即可。这样可以完成任务。
但是,有没有更高性能的实现方法: 当然有,那就是可以一次对多个数进行操作的SSE指令集,在这个对比测试中我们用到了:_mm_setzero_si128,_mm_loadu_si128,_mm_cmpgt_epi8,_mm_movemask_epi8,_mm_popcnt_u32 如果需要运行测试程序请确认你的CPU支持 SSE2和SSE4.2 指令集(确认方法请自行百度)。
对应的实现代码如下:
const size_t SIMD_BYTES = 16;
size_t total2 = 0

本文介绍了如何在ClickHouse中通过使用SSE指令集,如_mm_setzero_si128,_mm_loadu_si128等,对数组列进行高效性能优化,尤其是在处理WHEREcol>0这类查询时,显著减少了数据扫描范围,提高了查询速度。
最低0.47元/天 解锁文章
2813

被折叠的 条评论
为什么被折叠?



