【OpenCv 4 Python 3.7】图像金字塔

理论知识：

1、图像金字塔（Image Pyramid）

图像金字塔是图像中多尺度表达的一种，最主要用于图像的分割，是一种以多分辨率来解释图像的有效但概念简单的结构。图像金字塔最初用于机器视觉和图像压缩，一幅图像的 金字塔是一系列以金字塔形状排列的分辨率逐步降低，且来源于同一张原始图的图像集合。其通过梯次向下采样获得，直到达到某个终止条件才停止采样。金字塔的底部是待处理图像的高分辨率表示，而顶部是低分辨率的近似。我们将一层一层的图像比喻成金字塔，层级越高，则图像越小，分辨率越低。

常见两类图像金字塔

高斯金字塔 ( Gaussian pyramid):
用来向下/降采样，主要的图像金字塔
拉普拉斯金字塔(Laplacian pyramid): 用来从金字塔低层图像重建上层未采样图像，在数字图像处理中也即是预测残差，可以对图像进行最大程度的还原，配合高斯金字塔一起使用。
两者的简要区别：高斯金字塔用来向下降采样图像，注意降采样其实是由金字塔底部向上采样，分辨率降低，它和我们理解的金字塔概念相反（注意）；而拉普拉斯金字塔则用来从金字塔底层图像中向上采样重建一个图像。

要从金字塔第i层生成第i+1层（我们表示第i+1层为G_i+1），我们先要用高斯核对G_1进行 卷积，然后删除所有偶数行和偶数列。新得到图像面积会变为源图像的四分之一。按上述过程对输入图像G_0执行操作就可产生出整个金字塔。
当图像向金字塔的上层移动时，尺寸和分辨率就降低。OpenCV中，从金字塔中上一级图像 生成下一级图像的可以用PryDown。而通过PryUp将现有的图像在每个维度都放大两遍。
图像金字塔中的向上和向下采样分别通过OpenCV函数 pyrUp 和 pyrDown 实现。概括起来就是：

对图像向上采样：pyrUp函数
对图像向下采样：pyrDown函数
这里的向下与向上采样，是对图像的尺寸而言的（和金字塔的方向相反），向上就是图像尺寸加倍，向下就是图像尺寸减半。而如果我们按上图中演示的金字塔方向来理解，金字塔向上图像其实在缩小，这样刚好是反过来了。

但需要注意的是，PryUp和PryDown不是互逆的，即PryUp不是降采样的逆操作。这种情况下，图像首先在每个维度上扩大为原来的两倍，新增的行（偶数行）以0填充。然后给指定的滤波器进行卷积（实际上是一个在每个维度都扩大为原来两倍的过滤器）去估计“丢失”像素的近似值。PryDown( )是一个会丢失信息的函数。为了恢复原来更高的分辨率的图像，
我们要获得由降采样操作丢失的信息，这些数据就和拉普拉斯金字塔有关系了。

1.1 高斯金字塔（Gaussian pyramid）

高斯金字塔是通过高斯平滑和亚采样获得一系列下采样图像，也就是说第K层高斯金字塔通过平滑、亚采样就可以获得K+1层高斯图像，高斯金字塔包含了一系列低通滤波器，其 截至频率从上一层到下一层是以因子2逐渐增加，所以高斯金字塔可以跨越很大的频率范围。金字塔的图像如下：

另外，每一层都按从下到上的次序编号， 层级 G_i+1 (表示为 G_i+1尺寸小于第i层G_i)。

对图像的向下取样操作，即缩小图像。
为了获取层级为 G_i+1 的金字塔图像，方法步骤如下：

<1> 对图像G_i进行高斯内核卷积，进行高斯模糊；

<2> 将所有偶数行和列去除。

得到的图像即为G_i+1的图像，显而易见，结果图像只有原图的四分之一。通过对输入图像G_i(原始图像)不停迭代以上步骤就会得到整个金字塔。同时我们也可以看到，向下取样会逐渐丢失图像的信息。以上就是对图像的向下取样操作，即缩小图像。

对图像的向上取样，即放大图像
方法步骤如下：

<1> 将图像在每个方向扩大为原来的两倍，新增的行和列以0填充

<2> 使用先前同样的内核(乘以4)与放大后的图像卷积，获得 “新增像素”的近似值

得到的图像即为放大后的图像，但是与原来的图像相比会发觉比较模糊，因为在缩放的过 程中已经丢失了一些信息，如果想在缩小和放大整个过程中减少信息的丢失，这些数据形 成了拉普拉斯金字塔。

2.2 拉普拉斯金字塔（Laplacian pyramid）

拉普拉斯金字塔第i层的数学定义：

式中的表示第i层的图像。而UP（）操作是将源图像中位置为(x,y)的像素映射到目标图像的 (2x+1,2y+1)位置，即在进行向上取样。符号表示卷积，为5x5的高斯内核。

pryUp，就是在进行上面这个式子的运算。因此，可以直接用OpenCV进行拉普拉斯运算：

将降采样之后的图像再进行上采样操作，然后与之前还没降采样的原图进行做差得到残差图！为还原图像做信息的准备！

也就是说，拉普拉斯金字塔是通过源图像减去先缩小后再放大的图像的一系列图像构成的。保留的是残差！为图像还原做准备！

整个拉普拉斯金字塔运算过程可以通过下图来概括：

所以，我们可以将拉普拉斯金字塔理解为高斯金字塔的逆形式。

另外再提一点，关于图像金字塔非常重要的一个应用就是实现图像分割。图像分割的话，先要建立一个图像金字塔，然后在G_i和G_i+1的像素直接依照对应的关系，建立起”父与子“关系。而快速初始分割可以先在金字塔高层的低分辨率图像上完成，然后逐层对分割加以优化。

注意：上采样和下采样是非线性处理，不可逆，有损的处理！

代码实现（python）：

import cv2 as cv
import numpy as np

#高斯金字塔
def pyramid_demo(image):
    level = 3
    temp = image.copy() #拷贝图片
    pyramid_images = []
    for i in range(level):
        dst = cv.pyrDown(temp) #降采样
        pyramid_images.append(dst) #dst放到pyramid_images
        cv.imshow("pyramid_down_"+str(i), dst)#显示金字塔的每一层
        temp = dst.copy() #给下一层处理过的图像
    return pyramid_images

#拉普拉斯金字塔
def lapalian_demo(image):
    pyramid_images = pyramid_demo(image) #使用高斯金字塔返回的结果
    level = len(pyramid_images) #层数
    for i in range(level-1, -1, -1):#递减
        #最后一层是原图，需要用image
        if (i-1) < 0 :
            expand = cv.pyrUp(pyramid_images[i], dstsize=image.shape[:2])
            #原图减去expand
            lpls = cv.subtract(image, expand)
            cv.imshow("lapalian_down_" + str(i), lpls)
        else:
            # pyrUp：还原，dstsize=image.shape[:2] 图片大小要相同
            expand = cv.pyrUp(pyramid_images[i], dstsize=pyramid_images[i-1].shape[:2])
            # 原来高斯处理后的图减去expand
            lpls = cv.subtract(pyramid_images[i-1], expand)
            cv.imshow("lapalian_down_"+str(i), lpls)

print("--------- Python OpenCV Tutorial ---------")
#处理的图需要是2的倍数大小的图，否则效果不好
src = cv.imread("E:/ji_qi_xue_xi/opencv_kejian/opencv_python_image/lena.png")
cv.namedWindow("input image", cv.WINDOW_AUTOSIZE)
cv.imshow("input image", src)
lapalian_demo(src)
cv.waitKey(0)

cv.destroyAllWindows()

高斯金字塔结果：

拉普拉斯金字塔结果：