卷积层中的填充类型

在卷积神经网络中，卷积层是一种重要的层类型，用于提取输入数据的空间特征。填充是卷积层中一项重要的操作，用于在输入数据周围添加额外的像素，从而改变卷积操作后特征图的尺寸。本文将介绍卷积层中的填充类型，包括无填充、同填充和有效填充。

1. 无填充

当卷积层不使用填充时，输出特征图的尺寸会比输入特征图小。这是由于卷积核在移动时，只会扫描输入特征图的有效像素，无法利用输入特征图边缘的信息。对于输入尺寸为 (H, W) 的特征图，卷积层使用大小为 (K, K) 的卷积核后，输出特征图的尺寸将变为 (H-K+1, W-K+1)。

2. 同填充

同填充在输入特征图的四周补充额外的像素，保持卷积操作前后特征图的尺寸不变。对于输入尺寸为 (H, W) 的特征图，采用大小为 (K, K) 的卷积核进行卷积时，同填充会在特征图周围补充 (K//2, K//2) 个像素，其中 // 表示整除运算。这样，卷积操作的移动范围会扩展到边缘像素上，使得边缘像素也能参与特征提取。

3. 有效填充

有效填充是指卷积层不使用填充，输出特征图的尺寸比输入特征图小。与无填充相似，有效填充不在输入特征图周围补充额外像素，因此无法利用输入特征图边缘的信息。一般情况下，有效填充常用于希望特征图尺寸减小以减少参数数量的情况下。

使用填充类型的考虑因素

选择合适的填充类型主要取决于如下因素：

1. 尺寸变化: 同填充可以保持特征图的尺寸不变，而有效填充使得特征图尺寸变小。根据任务需求和模型设计，选择适合的填充类型来控制输出特征图的尺寸。

2. 边缘信息: 如果输入特征图边缘的信息对任务很重要，使用同填充是个不错的选择，因为它可以将边缘像素考虑在内。

3. 计算效率: 同填充会增加计算量，因为需要处理更多的像素。对于大规模的神经网络或有限的计算资源，可以选择有效填充来减少计算量。

总而言之，填充类型是卷积层中重要的参数之一，通过选择合适的填充类型，可以在保持特征图尺寸适当的同时，改变卷积操作的有效感受野，并对模型的性能产生重要影响。

注: 上述提到的 H、W、K 分别表示输入特征图的高度、宽度和卷积核的大小。

参考文献:

• Deep Learning Book, Chapter 9